癥結是：Facebook創(chuàng)立了兩小我工智能聊天法式，可以互相攀談（并相互進修），終究他們停滯了用英語交換，并開端用一種非英語的說話停止交換，這些說話是它們本身“創(chuàng)造的”。
消息頭版紛紜報導了這一事宜，從奪人眼球的噱頭到抽絲剝繭的剖析，如逐日電訊報的“聊天機械人創(chuàng)造新說話停止溝通Facebook自愿選擇封閉”，讓人聽起來像是這些聊天機械人正在謀害對抗人類，或是對人類組成威逼。隨意看看這些消息底下的評論，你就會發(fā)明年夜家的反響有恐怖、高興乃至愉快，有人說道“這一天終究來了”或援用其他艾薩克·阿西莫夫小說中的語句。
但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來，人工智能一向在“創(chuàng)造”新的溝通方法，所以這其實算不上消息。另外，他還說明說，與消息題目相反的是，這個試驗并沒有被封閉，只是為了調劑說話交換而轉變了。
另外，公司也沒有試圖隱瞞試驗細節(jié)。一切的一切都是地下的，一切的細節(jié)都可以在GitHub上查到，許可其他法式員復制這個場景。
底線是：在人工智能方面，新的人工智能說話不應是我們擔憂的成績。
上面才是我們應當擔憂的工作
像埃隆·馬斯克和比爾·蓋茨如許的有技巧腦筋的人曾經進獻了年夜量的時光和金錢，來說明人工智能是一種威逼，并尋覓新的辦法進步其品德程度。
這些才是我們應當存眷的重要范疇：
兵器：
兵器軍用無人機曾經投入應用，主動化兵器被以為是第三次戰(zhàn)斗反動。主動化的智能兵器讓更少的兵士遭到損害，并且遠比戰(zhàn)役機或核資料等先輩技巧廉價。例如，以后的“收割者”無人機價錢約為1300萬美元，而一架戰(zhàn)役機的價錢為1億美元。在將來，它們將變得加倍便宜，并且不受監(jiān)管（也意味著極端壯大）的挪動兵器也將加倍廉價，任何人都可以經由過程編程來殺逝世和摧毀對方（除非我們自動采用平安辦法）。
掌握：
掌握或許最主要的不是人工智能自己，而是誰在掌握它。我們正在應對的是那些有才能重塑世界的力氣，假如它們被貪心的公司、渴求動力的國度、乃至是好心的小我所壟斷，這些人基本不曉得本身在做甚么，那末這項技巧很輕易被濫用或誤用。這就是為何硅谷的一些影響者和人工智能研討人員集合在一路，成立OpenAI，這是一項讓全球都能應用人工智能的建議，而不只僅是一群特殊的人。這一舉動其實不“廉價”，據報導，該項目一名頂尖的人工智能研討人員的報價是其市場價值的兩到三倍。
成長：
人工智能的另外一個成績是在不受參數(shù)掌握的情形下，人工智能的成長速度。通用人工智能（AGI）具有指數(shù)級的生長才能，由于它將會自我晉升，而且在某一時辰會跨越其發(fā)明者的智力。農業(yè)時期延續(xù)了幾千年，工業(yè)時期延續(xù)了數(shù)百年，信息時期連續(xù)了幾十年，現(xiàn)在人工智能時期僅開端數(shù)年；技巧的增加連續(xù)加快而不是直線成長，而如今，任何進一步的加快都邑讓我們毫無預備地應對效果（假如我們采用主動的立場，而不是積極的姿勢）。我們還沒能發(fā)明出超等智能，但我們曾經控制了處置才能——中國的河漢2號每秒能盤算34萬萬億次盤算（cps），遠超人類年夜腦（10萬萬億秒）。
假如我們想要擔任任地應用這類盤算才能，我們須要有一個基本來應對它無窮制的成長。這意味著要懂得人工智能成長的倫理品德，若何限制它的應用，和在涌現(xiàn)成績時采取恰當?shù)姆雷o辦法。
關于人工智能若何被應用和將來若何成長，今朝存在一些嚴重的擔心。但是，過度地將被測試的體系小我化，或許被題目誤導我們的不雅點是不擔任任的。聊天機械人創(chuàng)造一種新說話其實不是威逼，它是天真爛漫的，還有其他更主要的事值得我們的留意。
