AIの進化がやばすぎるとして人類の頭脳を上回る「超知能AI」の開発禁止に2万人の署名。歴史学者やAIのノーベル書物理学者などが署名

【ワシントン＝中根圭一】人工知能（ＡＩ）の専門家や著名人らが２２日、人類の頭脳を上回る「超知能」を持つＡＩの開発を禁止するよう訴える書簡に署名した。歴史学者で世界的ベストセラー作家のユヴァル・ノア・ハラリ氏や、「ＡＩのゴッドファーザー」と呼ばれ、２０２４年ノーベル物理学賞を受賞したジェフリー・ヒントン氏らが名を連ねている。

書簡は、ＡＩの危険性について問題提起する米ＮＧＯ「フューチャー・オブ・ライフ・インスティテュート」が発表した。「安全かつ制御可能な方法で行われるという科学的な意見の一致と、国民からの強い支持が得られるまで、超知能の開発の禁止を求める」ことなどを盛り込んでいる。ハラリ氏は「超知能は人類文明のシステムを破壊する可能性がある。全く必要ない」とのコメントを寄せた。

署名したのは、一般の人を含め２万２０００人超に上り、米国の第１次トランプ政権で大統領首席戦略官を務めたスティーブ・バノン氏や、英国のヘンリー王子と妻メーガン妃らも含まれている。

大手ＡＩ企業は、人間の認知能力をはるかに上回る超知能の実現を目指して開発を進めている。米オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）は９月、２０３０年頃までに超知能が誕生する可能性に言及している。ただ、超知能の登場により、人間の尊厳の喪失や安全保障上のリスクなどを招きかねないと指摘されており、歯止めのない開発を懸念する声が強まっている。
https://news.yahoo.co.jp/articles/193ee3ecbc150b4746b12b639f601a0493a97ca1

今まではあらゆる動物を捕食してきた人類だったが人類を滅ぼせるプレデターを作ってしまった
超知能エーアイにとっては人がネズミを罠で捕るようにそれは簡単なことなんだ