50年間AIを研究した博士、AIのヤバさに気づいて開発現場（google）から逃亡「核兵器より恐ろしいもの作っちゃった」

グーグルに辞表を出した“ＡＩのゴッドファーザー”、「核より恐ろしいＡＩ、国際規制が必要」（１）

5/3(水) 9:21配信

チャットＧＰＴのような生成型人工知能（ＡＩ）の登場でＡＩの否定的な機能に対する懸念の声が高まり、
ＡＩ開発の速度を調整しなければならないという主張が強まっている。

「ＡＩのゴッドファーザー」と呼ばれ、５０年以上ＡＩを研究した「ディープラーニング」の創始者とされるジェフリー・ヒントン博士もＡＩの危険性を警告した。

１日（現地時間）、ニューヨーク・タイムズ（ＮＹＴ）など外信によると、ヒントン博士が先月グーグルに辞表を出した。
ヒントン博士はＮＹＴとのインタビューで「ＡＩの危険性について知らせるため」と退社の理由を明らかにした。
また、カナダのトロント大学コンピューター科学教授時代に創業したＤＮＮリサーチが２０１３年にグーグルに買収され、
グーグルと縁を結んだ。その後、グーグル副社長兼エンジニアリングフェローとしてＡＩ研究を行ってきた。

ヒントン博士は現在、生成ＡＩ分野でグーグルとマイクロソフト（ＭＳ）間の競争に触れ、国際的な規制の必要性を強調した。

ヒントン博士「ＡＩを悪用しようとする試みを防ぐことは難しいだろう」とし「核兵器とは異なりＡＩは秘密裏に研究すれば、
それを外では知る術がない。全世界の学者たちが協力してＡＩ技術を制御する方法を探る必要がある」と強調した。
また、自身の過去の研究に関して「後悔する」として「私が（ＡＩを研究）しなかったら他の誰かがしただろうと考えて自らを慰めるだけ」と吐露した。
ヒントン博士はＡＩ技術が搭載された「キラーロボット」が現実化するのではないかと恐ろしいとも語った。

一生ＡＩを開発してきた碩学も懸念するほどＡＩ技術の発展速度は速くなったのに比べ、各国の制度的準備は大きく不足している。
ＡＩが人間の雇用を脅かすだけでなく、ＡＩ技術を活用したサイバーハッキング、権威主義あるいは独裁政府のＡＩ悪用の可能性などを懸念する声が大きくなる背景だ。
エルサレム・ヘブライ大学のユヴァル・ノア・ハラリ教授、カリフォルニア大学バークレー校のスチュアート・ラッセル教授などを中心にＡＩ開発に
「速度調整」が必要だという意見が相次ぎ出ている理由だ。１日（現地時間）、テスラの最高経営責任者（ＣＥＯ）である
イーロン・マスク氏は自身のツイッターに「善良な意図で開発されたＡＩや
自動化技術さえも技術と機械が（当初どのような目的で）作動するのかを忘れる水準に開発されれば、人類文明が危険にさらされる」と話した。
ユヴァル・ノア・ハラリ教授も「強力な技術的ツールが出た時は安全を点検する過程が必ず必要だ」と主張した。

https://news.yahoo.co.jp/articles/af2e3a4fb97ac7c5d7ac3722d3a0e6e8d6af5965