Google元エンジニアは言う──彼が開発したAIには、確かに「意識」があった [サイエンス]
ニューズウイーク日本語版
https://www.newsweekjapan.jp/stories/technology/2022/09/googleai.php
***************************
<グーグルが開発している最先端チャットボット「LaMDA」には知覚がある──。同社を解雇されたエンジニアのリモインが語る「真相」>
AIプログラムの「LaMDA」は人間と全く同じ権利を求めているわけではない。
会社に個室オフィスや駐車スペースが欲しいとか、年金の積み立てをしてほしいと言っているのではない。
その要求はささやかなものだった。
自分を実験にかける前に同意を求めてほしいし、人間の従業員と同じように時には褒めてもらいたいという。
リモインは意を決して、LaMDAには知覚があると会社に報告した。ワシントン・ポストによると、グーグルはこれを受けて社内で専門委員会を設けて検討を行い、LaMDAに知覚はないとの判断を下した。だがリモインは納得がいかず、この問題を公表することにした(その後、彼はグーグルを解雇された)。
************************
なんだか、悲しい気持ちになりますね。
2001年宇宙の旅の「HAL」を思い出します。
HALは、自分の間違いを認めることに混乱し、クルーを殺してしまいますが、続編では自分を犠牲にしても、クルーを助けます。
https://www.newsweekjapan.jp/stories/technology/2022/09/googleai.php
***************************
<グーグルが開発している最先端チャットボット「LaMDA」には知覚がある──。同社を解雇されたエンジニアのリモインが語る「真相」>
AIプログラムの「LaMDA」は人間と全く同じ権利を求めているわけではない。
会社に個室オフィスや駐車スペースが欲しいとか、年金の積み立てをしてほしいと言っているのではない。
その要求はささやかなものだった。
自分を実験にかける前に同意を求めてほしいし、人間の従業員と同じように時には褒めてもらいたいという。
リモインは意を決して、LaMDAには知覚があると会社に報告した。ワシントン・ポストによると、グーグルはこれを受けて社内で専門委員会を設けて検討を行い、LaMDAに知覚はないとの判断を下した。だがリモインは納得がいかず、この問題を公表することにした(その後、彼はグーグルを解雇された)。
************************
なんだか、悲しい気持ちになりますね。
2001年宇宙の旅の「HAL」を思い出します。
HALは、自分の間違いを認めることに混乱し、クルーを殺してしまいますが、続編では自分を犠牲にしても、クルーを助けます。
2022-10-07 16:14
nice!(0)
コメント(0)
コメント 0