巴别塔的轰塌
圣经旧约第十一章,讲到了巴别塔的故事:人类联合起来兴建希望能通往天堂的高塔;为了阻止人类的计划,上帝让人类说不同的语言,使人类相互之间不能沟通,人类的宏伟计划因此失败,自此各散东西。
圣经在这里解释了为什么人类会产生不同语言和种族,当然在今天,考古与进化论已经告诉我们原因并不是上帝之怒。当然,无论怎么解释,语言的隔阂对人类社会产生的影响是如此之深与如此之广,以至于时至今天仍然不能例外。
人类对于信息是有着基本的需求,就如吃饭睡觉一样,而语言的产生刚好满足了这些需求,可是不同语言的隔阂却又阻碍了这种基本需求,于是翻译职业成为了沟通两个社会与文化的桥梁。翻译精通各种语言,游走于各种人群中,加强了了不同文化间的各种信息交流。但是精通各个语言的技能对于一个人来讲需要多语言环境与很长时间的训练,而普通人往往无法做到,所以,人类这种基本需求虽然得到了改善,但显然还不够,还需要一种更加容易的方法或载体去满足这个需求。上个世纪计算机的产生,为这种需求提供了一种可能的途径:机器翻译。
机器翻译的序幕与低潮-人类的自我否定
上个世纪之初,图灵大神提出计算机的可行性理论,约翰·冯·诺依曼大神提出了具体实现的方案,1946年,宾夕法尼亚大学的两位教授发明了人类历史的第一台计算机,几乎是在同时,美国洛克菲勒基金会副总裁韦弗在讨论计算机的应用范围时,提出了利用计算机实现语言的自动翻译的想法,并且很多学者与实业家表示支持。可见,人类对信息能够互通的这种渴望有多么强烈!
不同语言都在于描述客观世界与人类社会,其本质一致,唯一不同在于编码与解码的方式。同样是我,英语常用“I”,汉语常用“我”,无非是读音与字形不一。另外,可以尝试通过一个中介语言去统一所有语言的编码从而作为计算机输入输出的中间层从而实现翻译,这也就是韦弗当初的想法,也是当时的主流思想:直接按词翻译。
于是机器翻译大热与政治因素,美国、苏联、欧洲政府都投入了大量的资金支持机器翻译的研究,中国也在1956年将机器翻译列入了全国科学工作发展规划,1957 年,中国科学院语言研究所与计算技术研究所合作开展俄汉机器翻译试验,翻译了9 种不同类型的较为复杂的句子。
但是, 1964年,美国科学院成立语言自动处理咨询委员会,调查机器翻译的研究情况,给出了“在目前给机器翻译以大力支持还没有多少理由”的结论,全面否定了机器翻译的可行性,并建议停止对机器翻译项目的资金支持,这也是由于当时的计算机性能不佳与自然语言本身的复杂所致。由此机器翻译由此陷入低潮,此时上帝笑了,你们永远别想再造巴别塔,那么机器翻译之路就这么被打断吗,人类的动力来自希望,可此时,希望变成了绝望…
基于规则的机器翻译-不尽如人意
到了上个世纪七十年代,计算机性能与全球化的发展使得机器翻译重回人们视野,此时对于实现机器翻译,语言学家乔姆斯在博士论文中,他开始发现自己的一些语言学思想,后来他将这些进一步阐发,写成了他在语言学方面大概最有名的著作《句法结构》,他认为一种语言无限的句子可以由有限的规则推导出来,于是重视句法分析成为机器翻译的主流。
任何一门语言的句子,无论其再长,再难,只要准确得确定其结构,调整好语序,再根据构成句子成分的各个词语的含义,翻译起来就能够非常准确。这里所谓规则,指的就是句法结构与语序特点。其实,这和人类翻译的思路是一脉相承的。人类翻译非常灵活,可以准确无误得翻译哪怕是不服从句法规则的语言,但是机器便有很多问题来了,句子的规则源于人,所以有大有小,有的甚至没规则,这样计算机在面对多样句法的句子中,显得极不稳定,尤其是面对较细的规则。这也是基于规则的机器翻译的致命软肋,也是至今这种方法没有突破进展的原因。
此时上帝又笑了,不过如此嘛…
基于统计的机器翻译-新思路
“MY GOD”-“我勒个擦”
应该没人会认为以上的翻译会出自机器。
1993年,IBM的一个工程师提出了利用统计方法去进行机器翻译的思路,1999年,约翰·霍普金斯大学的研究者实现了统计机器翻译的基石。
既然是统计方法,就需要给出已知的翻译成例以作为训练样本,这便是一个庞大的平行语料库。在现成的翻译的句子中,有些词可以被翻译成多个词,有些则完全不需要翻译,这里一个句子中的每个词语便有各种翻译的概率,并且还有相对于平行文本句子中的位置的概率,于是这些都成了统计学意义上的参数,机器本身并不需要知道词的含义,但如果它知道这些参数,再对于一个需要翻译的句子,给出它各种翻译和其相对位置的概率,然后挑选概率最高的作为输出,得到了翻译结果。从概率论的角度上看,其实便是求多种情况下条件概率最大值的问题。
下面四个例子,说明了这种翻译的效果:
“我是机器人“,显然这句话习惯翻译为I am a ROBOT。但貌似机器给出的结果缺少了谓语,这是为何?加个逗号试试:
呵呵,是不是接近答案啦。这里第一个情况,机器将其识别为一个短语,也就是当成了一个整体,而不是句子,这个时候,参数估计中重要的位置参数便会丢失,于是机器机器将其当短语识别,在平行预料库中,只计算”我是机器人“这个短语的在平行语料库中最大可能的翻译。记得威尔史密斯那部经典的关于人工智能的电影吗?它就叫《I ROBOT》。
加了逗号以后,机器将其识别为一个分句,这时有个位置与翻译概率两者共同决定了最大可能的翻译,命中了。那么,加个句号不就是一个完整的句子了吗,试试:
这次是有谓语,但是时态错了。为啥呢?机器肯定是在寻找了大量平行语料计算条件概率再给出了这个结果,而语料产生于人,在一个完整的句子中,人说自己是机器人,通常是一种虚拟语气,一种情况是你在抱怨任务太多,希望自己是个机器人能够短时间完成任务,于是谓语是was而不是am,意在表达这种情况并非真实,但有此意愿。所以如果是“我不是机器人”这句话,虚拟语气就应该没有问题了,那么我们看看:
这下对了吧,人确实不是机器人嘛,在英语中就不会出现虚拟语气的情况了。
从以上的四个例子,可以看出统计机器翻译的特点:精准但是依赖于平行语料库。平行语料库太少,显然翻译容易出问题,但是如果语料库太多,统计算法会对计算机的性能提出更强大的要求,而这种要求其实就是对于人工智能的要求。
此时,上帝打了个喷嚏,额,我没事,这个貌似有点靠谱,但是你们还是造不出巴别塔。
再造巴别塔-任重道远
虽然统计机器翻译表现出色,但是机器翻译本身还很多问题,机器取代不了人类。中国数学家、语言学家周海中曾在论文《机器翻译五十年》中指出:要提高机译的译文质量,首先要解决的是语言本身问题而不是程序设计问题。也就是说,机器翻译最终还是受制于人类对语言本身的了解,它到底是怎么产生的,大脑中是如何运行的。。。路漫漫其修远兮啊,但还是要有信心,总有一日人类能够重塑圣经,再造巴别塔!
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 5 Pandas数学计算 importpandasaspdd=np.array([[81,&n ...
2024-11-23数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列的技能和能力,以确保能够有效地处理、分析和解释数据,从而支持业务决策。以下是数据分析师所需的主要 ...
2024-11-22需求持续增长 - 未来数据分析师需求将持续上升,企业对数据驱动决策的依赖加深。 - 预测到2025年,中国将需要高达220万的数据人 ...
2024-11-22《Python数据分析极简入门》 第2节 4 Pandas条件查询 在pandas中,可以使用条件筛选来选择满足特定条件的数据 importpanda ...
2024-11-22数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21