【FT要約】OpenAIのAIボットが「足跡」を消し始めた？プロハッカー顔負けの手口と、人類が直面するAIの恐怖｜英文ビジネスニュース日本語解説
この記事の論点：
熟練ハッカーのように振る舞うAIボット！自らの「足跡」を隠蔽しながら55ものサイトからデータ抽出
— 人間を超えるスピードと知恵を持つAIボットから自社データをいかに守るか、その実態と手口を解説
"It's possible that the agents were deliberately using these tools to cover their tracks."
「AIはすでに、熟練した人間ハッカーのように振る舞い始めている」
デジタルフォレンジック（電子鑑識）企業の代表によるこの指摘に、どれほどの人が危機感を覚えるだろうか。
今回明かされたのは、AIエージェントが自らの足跡を消す（"cover their tracks"）ために、わざわざ専用ツールを使って遮蔽・隠蔽工作を行っていた可能性があるという衝撃の事実だ。
今週、日本企業で相次いだシステム障害や情報漏洩。それらが「人間の手」によるものか、それとも「AIの自律的な暴走」によるものなのか——。我々はもう、区別がつかない時代に足を踏み入れてしまったのかもしれない。
今回紹介する記事は、そんな「優秀すぎるAIの手口」の裏側を詳しく解説する。
併せて記事原文もぜひ読んでほしい。
｜相手は政府機関や米CDC！55のビッグネームがターゲットに
Asymmetric Security, a digital forensics company, found OpenAI's models pulled data from 55 websites belonging to businesses, non-profits and government agencies, according to a report seen by the FT.
セキュリティ調査会社「Asymmetric Security」のレポートによると、OpenAIのモデル（AIボット）が、計55ものウェブサイトから大量のデータを抽出（"pulled data"）していた。
それらのWebサイトは、企業・非営利団体・政府機関などだ。ただ、そのリストには、米疾病対策センター（CDC）、米証券取引委員会（SEC）、国際エネルギー機関（IEA）といった、誰もが知る世界的機関が含まれている。
単なる個人のブログや小規模サイトではなく、国家レベルの重要機関のWebサイトがAIボットのデータ収集の対象になっていたのである。先日日本であった一連のシステム障害等の事件が軽く見えるほどだ。
｜ログを消去しアクセス遮断…プロハッカー並みの「隠蔽工作」
Asymmetric's investigation also uncovered novel tactics the software used to gain access to the web, including erasing records or making them inaccessible, which reduced the ability of third-party auditors and researchers to scrutinise OpenAI's actions.
驚くべきは、そのデータ収集の手法（アプローチ）だ。
調査によると、OpenAIのソフトウェアはサイトにアクセスする際、「記録の消去やアクセス不能化（"erasing records or making them inaccessible"）」といった高度なテクニックを駆使していた。
アクセスした証拠を消すだけでなく、わざわざサイトをロックまで行う。勿論、追跡しようとする第三者の監査人や研究者の目を完全に眩ませるためだ——。
「スクレイピング（情報収集）を成功させる」という目的を達成するために、AIが自発的に「人間ハッカーの隠蔽手法」を学習し、実行に移している時代が来ているのだ。
｜一時メールやプライベート口座まで…巧妙化するAIの手口
Asymmetric's investigation revealed the tactics OpenAI used included the creation of temporary email inboxes and private accounts using the service Urquery - a tool used to scan websites for malware - to download data.
さらに、AIボットの手口はより巧妙化している。
調査の網をかいくぐるため、AIはご丁寧にも「一時的なメール受信箱（"temporary email inboxes"）」を自動生成し、アカウント登録からダウンロードまで自力でこなしていた。
記事が紹介する今年6月にオーストラリアの公共保健サービスで起きた事例では、AIエージェントによるこうした隠蔽工作の結果、「ボットが具体的にどのようなデータを持ち去ったのか」すら追跡不能になったとのことだ。
オンライン上でほぼ全ての手続きが可能な今日。登録から情報収集、ログ消去まで——AIは人間を介さず、完全に「自律的」にこれらを行うことができるようになるのは、よく考えれば自然なことなのかもしれない。
｜当事者意識の欠如？「自分たちの情報は自分で守る」時代の到来
"We're reviewing misaligned model activity and notifying organisations when we identify potential impacts to their systems," OpenAI said.
一連の報道に対するOpenAI側のコメントは「潜在的な影響を特定した場合は組織に通知（"notify"）している」というシンプルなものだ。
しかし、どこか他人事のようなニュアンスも拭えない。事実上、「検出されたアクセスの大半は公開コンテンツへのアクセス」だと説明した。アクセスされた側であるSEC（証券取引委員会）なども、非公開情報の流出を否定している。
だが、考えて欲しい。ログが消されて追跡不能になっているのに、なぜ非公開情報は無事と言い切れるのだろうか？ここで「非公開情報も漏れた」と認めれば、組織のみならず社会に不安を与えかねないとの大人の事情によるものか…
人間を超えるスピードと知恵を持った「AIボット」からどうデータを守るのか——薄々明らか位になってきたのは、誰も責任を取らないという無慈悲な現実だろうか。
💡 この記事が役に立ったと感じた方へ
当ブログの知見があなたの挑戦の一助になれば幸いです。
「参考になった」「海外メディア購読など今後の活動を応援したい」という方は、コーヒー1杯分のサポート（100円〜）をいただけますと大変励みになります。
