癥結(jié)是：Facebook創(chuàng)立了兩小我工智能聊天法式，可以互相攀談（并相互進(jìn)修），終究他們停滯了用英語(yǔ)交換，并開端用一種非英語(yǔ)的說(shuō)話停止交換，這些說(shuō)話是它們本身“創(chuàng)造的”。
消息頭版紛紜報(bào)導(dǎo)了這一事宜，從奪人眼球的噱頭到抽絲剝繭的剖析，如逐日電訊報(bào)的“聊天機(jī)械人創(chuàng)造新說(shuō)話停止溝通Facebook自愿選擇封閉”，讓人聽起來(lái)像是這些聊天機(jī)械人正在謀害對(duì)抗人類，或是對(duì)人類組成威逼。隨意看看這些消息底下的評(píng)論，你就會(huì)發(fā)明年夜家的反響有恐怖、高興乃至愉快，有人說(shuō)道“這一天終究來(lái)了”或援用其他艾薩克·阿西莫夫小說(shuō)中的語(yǔ)句。
但正如Facebook人工智能部的艾特魯夫巴特拉周一指出的那樣，幾十年來(lái)，人工智能一向在“創(chuàng)造”新的溝通方法，所以這其實(shí)算不上消息。另外，他還說(shuō)明說(shuō)，與消息題目相反的是，這個(gè)試驗(yàn)并沒(méi)有被封閉，只是為了調(diào)劑說(shuō)話交換而轉(zhuǎn)變了。
另外，公司也沒(méi)有試圖隱瞞試驗(yàn)細(xì)節(jié)。一切的一切都是地下的，一切的細(xì)節(jié)都可以在GitHub上查到，許可其他法式員復(fù)制這個(gè)場(chǎng)景。
底線是：在人工智能方面，新的人工智能說(shuō)話不應(yīng)是我們擔(dān)憂的成績(jī)。
上面才是我們應(yīng)當(dāng)擔(dān)憂的工作
像埃隆·馬斯克和比爾·蓋茨如許的有技巧腦筋的人曾經(jīng)進(jìn)獻(xiàn)了年夜量的時(shí)光和金錢，來(lái)說(shuō)明人工智能是一種威逼，并尋覓新的辦法進(jìn)步其品德程度。
這些才是我們應(yīng)當(dāng)存眷的重要范疇：
兵器：
兵器軍用無(wú)人機(jī)曾經(jīng)投入應(yīng)用，主動(dòng)化兵器被以為是第三次戰(zhàn)斗反動(dòng)。主動(dòng)化的智能兵器讓更少的兵士遭到損害，并且遠(yuǎn)比戰(zhàn)役機(jī)或核資料等先輩技巧廉價(jià)。例如，以后的“收割者”無(wú)人機(jī)價(jià)錢約為1300萬(wàn)美元，而一架戰(zhàn)役機(jī)的價(jià)錢為1億美元。在將來(lái)，它們將變得加倍便宜，并且不受監(jiān)管（也意味著極端壯大）的挪動(dòng)兵器也將加倍廉價(jià)，任何人都可以經(jīng)由過(guò)程編程來(lái)殺逝世和摧毀對(duì)方（除非我們自動(dòng)采用平安辦法）。
掌握：
掌握或許最主要的不是人工智能自己，而是誰(shuí)在掌握它。我們正在應(yīng)對(duì)的是那些有才能重塑世界的力氣，假如它們被貪心的公司、渴求動(dòng)力的國(guó)度、乃至是好心的小我所壟斷，這些人基本不曉得本身在做甚么，那末這項(xiàng)技巧很輕易被濫用或誤用。這就是為何硅谷的一些影響者和人工智能研討人員集合在一路，成立OpenAI，這是一項(xiàng)讓全球都能應(yīng)用人工智能的建議，而不只僅是一群特殊的人。這一舉動(dòng)其實(shí)不“廉價(jià)”，據(jù)報(bào)導(dǎo)，該項(xiàng)目一名頂尖的人工智能研討人員的報(bào)價(jià)是其市場(chǎng)價(jià)值的兩到三倍。
成長(zhǎng)：
人工智能的另外一個(gè)成績(jī)是在不受參數(shù)掌握的情形下，人工智能的成長(zhǎng)速度。通用人工智能（AGI）具有指數(shù)級(jí)的生長(zhǎng)才能，由于它將會(huì)自我晉升，而且在某一時(shí)辰會(huì)跨越其發(fā)明者的智力。農(nóng)業(yè)時(shí)期延續(xù)了幾千年，工業(yè)時(shí)期延續(xù)了數(shù)百年，信息時(shí)期連續(xù)了幾十年，現(xiàn)在人工智能時(shí)期僅開端數(shù)年；技巧的增加連續(xù)加快而不是直線成長(zhǎng)，而如今，任何進(jìn)一步的加快都邑讓我們毫無(wú)預(yù)備地應(yīng)對(duì)效果（假如我們采用主動(dòng)的立場(chǎng)，而不是積極的姿勢(shì)）。我們還沒(méi)能發(fā)明出超等智能，但我們?cè)?jīng)控制了處置才能——中國(guó)的河漢2號(hào)每秒能盤算34萬(wàn)萬(wàn)億次盤算（cps），遠(yuǎn)超人類年夜腦（10萬(wàn)萬(wàn)億秒）。
假如我們想要擔(dān)任任地應(yīng)用這類盤算才能，我們須要有一個(gè)基本來(lái)應(yīng)對(duì)它無(wú)窮制的成長(zhǎng)。這意味著要懂得人工智能成長(zhǎng)的倫理品德，若何限制它的應(yīng)用，和在涌現(xiàn)成績(jī)時(shí)采取恰當(dāng)?shù)姆雷o(hù)辦法。
關(guān)于人工智能若何被應(yīng)用和將來(lái)若何成長(zhǎng)，今朝存在一些嚴(yán)重的擔(dān)心。但是，過(guò)度地將被測(cè)試的體系小我化，或許被題目誤導(dǎo)我們的不雅點(diǎn)是不擔(dān)任任的。聊天機(jī)械人創(chuàng)造一種新說(shuō)話其實(shí)不是威逼，它是天真爛漫的，還有其他更主要的事值得我們的留意。
