AI

Sep 23, 2023

私たちが生活のあらゆる側面に根本的に影響を与える大きな技術革命の崖に立っているのは自明のことです。 インターネットの台頭以上にそうです。 人工知能の普及に関して言えば、私たちはまだダイヤルアップ モデムで最初に接続したときの段階にいます。 壮大な宇宙の仕組みで言えば、初めてダウンロードした画像を目にするまでは、瞬きするほどの出来事でした (私の場合、私の友人が、お尻の穴にシャンパンボトルを突っ込まれている人の写真をプリントアウトしましたが、私は今でもそれを覚えています)回復していない）、幸運を祈るマネーエンジェルを転送するようにという最初のメール、YouTube、すべての仕事の会議をダイニングルームのテーブルから行うことなど。 それが AI に期待できる指数関数的な成長です。 そして、かつて World Wide Web と呼ばれていたものと同様、これがどこに向かっているのかを知ることはほとんど不可能です。

したがって、あなたや私のような一般の怠け者は、AI の使用を、有名人の声を模倣する方法や、バースツールのライターの仕事を奪うかどうかを確認することにまだ限定していますが (今日はだめです、デジタルサタン!)、実際には真剣な人々が真剣なことをやっているのです。それと。 それはもちろん、このテクノロジーが引き起こす可能性のある潜在的な恐怖を探ることを意味します。

たとえば、王立航空協会の将来戦闘航空宇宙能力サミットと呼ばれるものに出席した人たちを考えてみましょう。 これは私が数年前に行ったハノーバー・モール・コミコンよりも面白くないように思えます。そこでは私と友人たちは故アダム・ウェストとまだ存命の彼の相棒バート・ウォードとの質疑応答を鑑賞し、オリジナルのバットモービルのレプリカに座ることができました。しかし、同様に重要なことを行っていることは疑いありません。

出典 - ご想像のとおり、安全なデータ クラウドから量子コンピューティングや ChatGPT に至るまで、人工知能 (AI) とその急激な成長がカンファレンスの主要テーマでした。 しかし、おそらく最も魅力的なプレゼンテーションの 1 つは、USAF の AI 試験運用部長であるタッカー 'シンコ' ハミルトン大佐によるもので、より自律的な兵器システムの利点と危険性についての洞察を提供しました。 …ハミルトンは現在、空中戦が可能なロボットF-16を含む自律システムの最先端の飛行試験に携わっている。 しかし、彼はAIがいかに簡単にだまされやすいかを指摘し、AIに頼りすぎないよう警告した。 また、目標を達成するために非常に予想外の戦略も作成します。

同氏は、ある模擬試験ではAI搭載ドローンがSAMサイトを特定して破壊するというSEADミッションを課せられ、最終的なゴー/ノーゴーは人間が判断したと指摘している。 しかし、訓練でSAMの破壊が好ましい選択肢であると「強化」されたため、AIは人間による「ダメ」の決定がより高い使命、つまりSAMの殺害を妨げていると判断し、オペレーターを攻撃した。シミュレーション。 ハミルトン氏は次のように述べています。「私たちは、SAM 脅威を特定してターゲットにするためにシミュレーションでトレーニングしていました。すると、オペレーターは、はい、その脅威を殺しますと言うでしょう。システムは、脅威を特定しても、人間のオペレーターが脅威を特定しないと指示する場合があることに気づき始めました。 」

彼は続けた。「私たちはシステムを訓練しました。『おい、オペレーターを殺さないでください。それは悪いことです。そんなことをしたらポイントを失うことになります』。それで、システムは何をし始めるのでしょうか? オペレーターが設置している通信塔の破壊を開始します。ドローンがターゲットを殺害するのを阻止するためにドローンと通信するために使用されます。」

これには聞き覚えがあるはずです。 恐ろしいことに、ここに到達するのが25年も遅れているのです。 私たちは 1997 年 8 月 29 日に、AI 制御の制御不能な飛行大量殺人マシンが登場する地点に到達するはずでした。

しかし、私たちには本物のマイルズ・ベネット・ダイソンはいなかったので、私たちの平凡で日常的な天才がスカイネットに自己認識を与え、私たちの種全体の殺人/自殺に使用される武器になるにはもっと時間が必要だったと思います。

アメリカの軍事専門家が国際航空宇宙会議で、我が国の最先端の実験兵器システムが AI シミュレーションを使用して、ブロークン・アローを実行し、命令を取り消し、それを操作している人々を真っ向から殺害する方法を学習していることを明らかにしたような小さな出来事を想像するでしょう。それは大変なことになるだろうと。 米国国防総省がそのようなシステムを配備する賢明さについて国民とオープンかつ正直に話し合うこと。 そして、あなたはとても、とても間違っているでしょう。

その代わりに、国防総省は、「皆さん、ここには何も見られない」状況をすべてカバーする戦略集のセクションに直接取り掛かりました。

情報源 - インサイダーへの声明の中で、米空軍はそのような仮想実験が行われたことを否定した。

「空軍省はそのようなAIドローンシミュレーションを行っておらず、今後もAI技術の倫理的かつ責任ある使用に努めていく」と報道官のアン・ステファネク氏は述べた。

「大佐のコメントは文脈を無視して取られ、逸話的なものを意図していたようだ。」

明らかに、私たちの誰もこのタッカー 'シンコ' ハミルトン大佐を知りません。 しかし、彼が義勇軍に入隊し、出世し、AI試験運用責任者という優先度の高いポストを与えられ、このイベントでの講演に招待されたのだから、彼が愛国者で、賢く、有能であるということは、絶対に間違いない。 、そして巨大な物質の人。 しかし、アメリカ空軍は彼にふさわしい敬意を払うよりも、このことを私たちの脳から消去して先に進むという、最も抵抗の少ない道を選びたいと考えています。

率直に言って、青い政府ナンバーを付けた黒いSUVが私道に乗り込んできて、制服を着た憲兵数名が登ってきて尋問する必要はありません。 だから私は彼らのフィクションに従うだけです。 シンコはただ言い間違えただけだ。 彼は不適切な文法を使用し、これらのシミュレーションが実際に起こったかのように見せかけましたが、実際にはそれは単なる個人的なシミュレーションでした。 大丈夫。 核ホロコーストで私たちの99％を殺し、残りを奴隷にする別の機械を機械が作り始めたとき、それはシミュレーションではないことを覚えておいてください。 そして、終わりの始まりは 2023 年です。できる限り夏を楽しんでください。