プロンプトインジェクション攻撃

AIブラウザ（AIエージェントを搭載したウェブブラウザ）の危険性としてよくあげられるのが「プロンプトインジェクション攻撃」です。

これは攻撃者が、悪意ある指示をウェブページに仕込んでおき、そのページにアクセスしたAIエージェントをコントロールする攻撃です。

プロンプトインジェクション攻撃は、AI搭載ウェブブラウザーに最も深く関連する脆弱性だ。これは、悪意のある攻撃者がAIエージェント向けの悪意ある指示をウェブサイトに意図的に配置する攻撃の一種である。そのテキストはユーザーには見えないようになっている。しかし、AIはサイト上のすべてのコンテンツを分析できるため、その指示を吸い上げ、安全ガイドラインを無視してしまう。この悪意ある指示により、AIが機密情報の漏えいやシステム設定の変更など、有害なアクションを実行する可能性がある。

出典：OpenAIの新AIブラウザー「ChatGPT Atlas」は安全か？専門家が警告するリスクとは – CNET Japan

この問題は広く知られており、ChatGPT Atlasを提供するOpenAIも対策を行っています。しかし、完璧ではなく、同社は「プロンプトインジェクションの完全な解決は困難」と発表しています。