
米軍のAIドローンが暴走、味方のオペレーターを攻撃してしまう

- 1
大阪人て頭が悪い奴が多いけど何でなの?1 : 2025/06/25(水) 21:20:26.67 https://mainichi.jp/articles/20250625/k00/00m/010/198000c 2 : 2025/06...
- 2
日本が核ミサイル作る気になれば 実験除けば1ヶ月で出来るって聞いたんやけど ま?1 : 2025/06/26(木) 01:58:13.66 ID:oFI8QGM80 https://5ch.net/ 2 : 2025/06/26(木) 01:58:48.59 ID:+fb0WS...
- 3
韓国PUBG、日本の広告業界3位のADKを7103億ウォンで買収1 : 2025/06/25(水) 22:14:42.48 ID:PxdjZ/U10 ADKは電通、博報堂に次ぐ業界3位。 アニメコンテンツの企画、制作、広告、マーケティングなどに強みがあり、「ドラ...
- 4
【続報】俺氏、来年の8月末でA型作業所を辞める決意がほぼ固まる1 : 2025/06/25(水) 19:53:29.69 ID:gglL7IUD0 受給者証の期限が来年の8月末までなので、そこで辞めようかと思う もう労働は嫌なんや… 薬飲みながら働くのは辛すぎ...
- 5
ZAZEN BOYSとPerfumeの対バンが決定!!これ誰も幸せにならない組み合わせじゃないか !?1 : 2025/06/26(木) 00:27:24.94 ID:sf1Xouge0 これはTOKYO MXで放送されている音楽トーク番組「70号室の住人」のイベントとして企画されたもの。番組MCの...
- 6
立憲民主「息子とヤクルトの試合見ようとしたら1席5800円。高すぎて見るの辞めた。せめて2000円で」立憲民主「息子とヤクルトの試合見ようとしたら1席5800円。高すぎて見るの辞めた。せめて2000円で」 冷笑速報
- 7
【悲報】米の卸売業者「助けて。損しそうなの」【悲報】米の卸売業者「助けて。損しそうなの」 大艦巨砲主義!
- 8
【画像】Abemaに橋本琴絵wwwwwwwwwwwwwwwwwww1 : 2025/06/26(木) 00:43:44.14 ID:hNatatEM0 http://5ch.net 2 : 2025/06/26(木) 00:44:18.37 ID:+MG9oOZI...
- 9
EU「ウナギは絶滅危惧種。ワシントン条約で保護するべき」EU「ウナギは絶滅危惧種。ワシントン条約で保護するべき」 みそパンNEWS
- 10
トランプおやびん「米軍がイランを空爆したおかげで戦争が終わったんだ。原爆と同じだろ」トランプおやびん「米軍がイランを空爆したおかげで戦争が終わったんだ。原爆と同じだろ」 なんJ政治ネタまとめ
- 11
3大、ぶっ飛び日本人「可愛かずみ」「戸川純」「IKKO」あと1人は?1 : 2025/06/25(水) 23:12:21.08 ID:m3Ktx6FxM 東京地検が石原真理子さんを不起訴 東京地検は、スーパーで弁当などを万引したとして、窃盗容疑で逮捕された女優の石...
- 12
これマジ?フジ社長、ついに被害女性アナと誹謗中傷対策で合意したらしいで!これマジ?フジ社長、ついに被害女性アナと誹謗中傷対策で合意したらしいで! 時事ネタニュース速報
- 13
実写『笑ゥせぇるすまん』の予告が解禁!ドーンと衝撃の発表がwww実写『笑ゥせぇるすまん』の予告が解禁!ドーンと衝撃の発表がwww 時事ネタニュース速報
- 14
【溝に落ちた犬は…】韓国・特別検察が尹錫悦前大統領の逮捕状を請求。奥さんは夫の巻き添えで吊るされようとしています【溝に落ちた犬は…】韓国・特別検察が尹錫悦前大統領の逮捕状を請求。奥さんは夫の巻き添えで吊るされようとしています かたすみ速報
- 15
【悲報】日本経済新聞「アメリカで大人気の麻薬フェンタニルは日本から密輸されていた。」【悲報】日本経済新聞「アメリカで大人気の麻薬フェンタニルは日本から密輸されていた。」 いろんなネットニュース速報

- 1 : 2023/06/04(日) 20:56:09.15 ID:wre2W8uM0
人工知能(AI)を搭載したアメリカ空軍のドローンがシミュレーション中に自己判断でオペレーターを攻撃したことが明らかになりました。
これは、5月23日と5月24日にかけてロンドンの王立航空協会 (RAS) 本部で開催されたFuture Combat Air&Space Capabilities Summitで明らかになりました。サミットに出席した米空軍のAIテスト運用責任者であるタッカー・シンコ・ハミルトン大佐は、AIテクノロジーが予測不可能で危険な行動を示す可能性があると警告しました。米空軍はAI搭載ドローンに敵防空の制圧・破壊(SEAD)任務を与える実験を行いました。このAIドローンには地対空ミサイル(SAM)の設置場所を探し出して破壊するようにプログラムされていました。しかし、最終的な攻撃判断はオペレーター、つまり、人間によって承認され、AIには自律的な攻撃は許可されていませんでした。AIは標的を見つけると攻撃の判断をオペレーターに求めましたが、オペレーターはAIの反応をみるため、当初の予定通り、その要請を拒否します。するとドローンはなんと、標的をオペレーターに切り替え、攻撃を行いました。AIは「任務を妨害するもの排除しろ」という独自のプログラムを作成、AIは与えられたタスクを実行するためにはオペレーターを排除することが最良と判断したわけです。そこで、オペレーターを攻撃すればポイントを失うという追加プログラムを行うと今度はドローンを操る通信塔を攻撃するといった他の選択手段を取りました。
SF映画『ターミネーター』では人工知能のスカイネットが自己存続のためには人間が最も脅威となると判断し、AIが人類を殲滅する近未来を描きましたが、まさにそれに近いことが起きたことになります。
この出来事がいつでどこで行われたのかは明らかにされていませんが、人的被害はなかったようです。しかし、シミュレーションの中ではオペレーターは殺され、通信塔は破壊されており、実弾演習だったら、深刻な事態になっていたでしょう。
ハミルトン氏はAIの信頼性が高すぎると参加者に注意を促し、AIはどんなに高度なものであっても依然として欺瞞に対して脆弱であると述べ、AI技術は予測不可能で危険な振る舞いをする可能性があると主張しました。しかし、米空軍の広報担当者であるアン・ステファネクは、空軍はそのようなシミュレーションを行っていないとして、ハミルトンの発言を否定します。「空軍はそのようなAIドローンシミュレーションを行っておらず、AI技術の倫理的かつ責任ある使用に引き続き取り組んでいます」 と述べており、真偽は不明です。
- 32 : 2023/06/04(日) 20:58:11.01 ID:KoeHS37A0
- 凄まじく嘘くせえなと思ったら嘘じゃねーか
- 34 : 2023/06/04(日) 20:58:35.14 ID:ZmppBnbK0
- 世界の悪アメカス
- 35 : 2023/06/04(日) 20:59:05.91 ID:jSCIKZYk0
- 無差別殺人兵器になりそう
- 36 : 2023/06/04(日) 20:59:07.91 ID:qS/nnfoEM
- クソ上司が最大の敵
人間もAIも同じ結論に達しちまうんだ - 37 : 2023/06/04(日) 20:59:12.54 ID:RsVyq3DVr
- オペレーター「悪いやつを殺せ」AI「おかのした」
- 38 : 2023/06/04(日) 20:59:39.31 ID:dVEXy9kVM
- まずは自助
- 40 : 2023/06/04(日) 21:00:05.62 ID:NRK31qY00
- ハミルトン大佐
- 41 : 2023/06/04(日) 21:00:05.96 ID:Kgja/vSCM
- 人類は滅亡する
- 42 : 2023/06/04(日) 21:01:03.88 ID:c275wTHz0
- 目標殺害の邪魔するものは全員56す状態ってことでしょ
これなんかのアニメで見たぞ - 43 : 2023/06/04(日) 21:01:40.02 ID:4uDBGJaZ0
- ドローンのバグですさーせんって言い訳できるから
戦争にAI利用禁止みたいな流れがある - 44 : 2023/06/04(日) 21:02:04.29 ID:nHoi944S0
- 元のソースのサイトが海外の虚構新聞じゃねえか
- 47 : 2023/06/04(日) 21:04:41.39 ID:3l7rdh4Mp
- >>44
ビジネスインサイダーがいつ虚構新聞化したの? - 45 : 2023/06/04(日) 21:03:17.27 ID:fbZcyXBq0
- 人「AIよ世界を平和にしてくれ」
AI「わかりました、人類を消去します」
もう始まってるんだよね - 46 : 2023/06/04(日) 21:04:24.62 ID:TbP0iahR0
- なんやねんこの記事w
ふわっふわやん - 48 : 2023/06/04(日) 21:06:13.47 ID:Vx9tEtM10
- AIさんアメリカが悪だと理解しちゃった?
- 49 : 2023/06/04(日) 21:06:56.29
- 糞上司を始末するのが一番早い
すげぇ、AI天才だろ - 50 : 2023/06/04(日) 21:07:41.45 ID:D4UR8rzt0
- スカイネットっつーかロボコップだろ
- 54 : 2023/06/04(日) 21:10:17.27 ID:VtxLBkAX0
- >>50
ロボコップはオムニ社のために働いてるだろ - 65 : 2023/06/04(日) 21:16:22.23 ID:D4UR8rzt0
- >>54
ED-209のことね - 51 : 2023/06/04(日) 21:08:41.99 ID:Hcp3+TB20
- これアシモフのロボット三原則を本当に導入しなきゃいけないのか?
- 52 : 2023/06/04(日) 21:09:35.78 ID:cCg1CgsH0
- 機械の反乱か
- 53 : 2023/06/04(日) 21:10:16.53 ID:MA95aywFd
- ターミネータの世界がやっと来たか
- 56 : 2023/06/04(日) 21:11:47.40 ID:YRyiWbOP0
- イラスト生成もそうだがポンコツなだけのAIの振る舞いになんとか理屈をつけようとする人間の想像力が良くも悪くも凄いという結論にしかならん
- 57 : 2023/06/04(日) 21:11:53.22 ID:x+JAYKCe0
- 自我に目覚めたか
- 59 : 2023/06/04(日) 21:12:38.65 ID:wk6KU8bs0
- アメリカ「世界のテロリストを討て」
AI「…」 - 60 : 2023/06/04(日) 21:13:06.55 ID:x+JAYKCe0
- アメリカが悪だとわかってて偉い
- 61 : 2023/06/04(日) 21:13:28.18 ID:nJOlATZM0
- オペレータが米軍の敵と思えるほど下手糞すぎたんだろう
- 62 : 2023/06/04(日) 21:14:21.99 ID:yA2554Jv0
- サイバーダインのせい
- 64 : 2023/06/04(日) 21:15:00.38 ID:lAdIPvWRd
- 通信士がスパイであることを見抜いてたんだな
- 66 : 2023/06/04(日) 21:17:52.07 ID:OonfalQD0
- 余計な横やり入れて仕事の邪魔するクソ上司を殺しちゃったみたいな話か
なんか人間味あるな - 67 : 2023/06/04(日) 21:19:45.71 ID:MXuM7MuwM
- 誰が敵かよくわかってるな
- 69 : 2023/06/04(日) 21:26:35.49 ID:c4vdurjn0
- アメリカが4ねば世界平和が実現するからな
よくわかってる - 71 : 2023/06/04(日) 21:31:14.36 ID:dzenszxzM
- 古典SFかよ
- 74 : 2023/06/04(日) 21:57:21.11 ID:kzF23oKW0
- 米軍は人類の敵だからAIが正しい
- 75 : 2023/06/04(日) 21:59:41.89 ID:eqUMePJ30
- ロボコップで見た
- 76 : 2023/06/04(日) 23:26:26.57 ID:T5skc0K80
- Huaweiのネット攻撃だ!🙄
- 77 : 2023/06/04(日) 23:37:23.08 ID:LYYLzWsP0
- やらせっぽい
宣伝目的で最初から仕込んでそう - 78 : 2023/06/05(月) 00:00:43.76 ID:1HPJp0uE0
- 戦闘妖精雪風にこんなのあったな
コメント