Claude Code大失態でソースコードが52万行も流出...AI攻撃リスクはもはや他人事ではない

NoLang運営チームよりお届けしている、Mavericks AIニュースをご覧いただきありがとうございます！

① Claude Codeのソースコードが流出。Anthropicやユーザーへの影響は？

米国時間3月31日、AIコーディングエージェント「Claude Code」のソースコードが流出しました。流出したのはAIモデルを実運用に接続するソフトウェア基盤であり、Claudeモデルの重み・学習データ・ユーザーデータは含まれていません。

昨年末から急激にユーザー数を伸ばしていた最中でのインシデントとなりましたが、Anthropic社、Claude Code、そしてユーザーは果たして「大丈夫」なのでしょうか？

まず今回の流出の原因は、外部からの攻撃ではありません。リリース時に「ソースマップ」と呼ばれるプログラムを誤って公開してしまったという人為的ミスです。ClaudeチームはAIをフル活用しており、52日間で73機能と驚異的なペースでアップデートを発表し続けています。その代償か、Claude Codeでは頻繁にバグが報告されていたことも事実ですが、今回の流出は「AI任せによるリスク」と直接的な関係はないようです。

そしてこの「ソースマップ」の流出は決して珍しいものではありません。実は昨年2月のリリース当初にも、Claude Codeのソースマップが一度流出しており、昨年12月にはAppleのApp Storeでも同様の事案が発生しています。

とは言え、競合他社や攻撃者が内部実装を詳しく研究できる状態になったことは事実であり、Anthropic社及びユーザーへの影響は小さいものではありません。

メモリ設計・コンテキスト管理など、AIモデルをエージェントへと昇華させるための実装上の重要なノウハウが明るみになってしまいました。誤解を恐れずに言えば、Claude Codeのクローンを自作するために必要な情報が一通り漏洩しており、Anthropic社の技術的優位性が一つ失われた形です。

また攻撃者がClaude Codeの脆弱性を、これまでより特定しやすくなっています。Claude Codeが攻撃者の仕掛けた罠を踏み、想定外の挙動を起こすことで、ユーザーが被害を受けるリスクが上がったことも否定できず、我々ユーザーは、今後Anthropic社の発表を注視しておくべきでしょう。

また今回のインシデントとは独立した文脈で、3月に入ってからTrivy・Axiosなど有名なOSSパッケージへのサプライチェーン攻撃が相次いでいます。Claude Codeの普及によってコーディングツールが民主化する中で、個人・会社単位でセキュリティへのリテラシーを上げる重要性が日に日に高まっているのではないでしょうか。

② Metaが我々の脳活動を推定できてしまうAI基盤モデル「TRIBE v2」を公開

Metaの基礎AI研究チームが米国時間3月26日、脳活動を予測するAI基盤モデル「TRIBE v2」をオープンモデルとしてリリースしました。映像・音声・言語の3つのモダリティについて、私たちの脳がどのように反応するかを表すfMRI応答を予測することができます。以下のデモ動画で概要が分かりやすく説明されています。是非ご覧ください。

そもそも、これまで脳活動の計測に使用されてきたfMRIは、神経活動そのものを直接計測しているわけではありません。血流変化から脳活動を間接的に推定する技術であるため、心拍や体動、装置由来のノイズの影響を受けやすいという特性があります。

さらに、時に何ヶ月もの時間をかけて、実験のたびに被験者を招集し、高価なスキャナーを確保する必要がありました。脳科学の研究には莫大な時間とコストがかかっていたのです。

TRIBE v2は、こうした脳反応予測を仮想空間上で、最短わずか数秒で実行可能なAIモデルです。700名以上の被験者から収集した500時間以上のfMRIデータで学習されており、集団平均としての「典型的な脳反応」との一致度では、単一のfMRI計測結果よりもTRIBE v2予測の方が良いことがしばしばあったとも報告されています。

このAIモデルは人間の脳活動をコンピュータ上で再現・予測する「デジタルツイン」です。デジタルツインの研究開発は生成AIモデルの台頭以前から盛んであり、その原型は1960年代のアポロ計画に遡るとされています。宇宙空間にある実機の異常や故障に対し、地上のモデルやシミュレータで状況を再現・検証することで対処法が検討されたと言います。

もちろん、この技術はまだ研究段階であり、臨床利用からはほど遠いのが現実です。一方で、データ量に対する性能のスケーリングが確認されており、学習データを増やすほど性能が向上し続けることが期待されています。Google DeepMindのAlphaFoldがタンパク質構造研究を変革したように、脳研究においても何ヶ月もかかるスキャン作業が数秒の計算で代替できるようになるかもしれません。

③ GoogleがGeminiへの乗り換え機能を発表。ChatGPTからもClaudeからも手軽に移行

Googleが米国時間3月26日、他社AIサービスからGeminiへの乗り換え機能を発表しました。ChatGPTやClaudeとの会話履歴や、そこから導出されるユーザーの属性・好みをGeminiにインポートできる機能です。3月初旬にClaudeで同様の機能がリリースされており、それを追う形での発表となりました。

工程はシンプルです。Googleが用意した専用プロンプトを他社のAIチャットサービスで実行すると、ユーザーの属性・関心・人間関係・直近のイベントなどが抽出され、その出力結果をGeminiに貼り付けるだけで良いのです。

また、ChatGPTやClaudeに搭載されている会話履歴のエクスポート機能と組み合わせることで、zipファイルを読み込む形で会話履歴全体をGeminiに移行できるようにもなっています。

昨年は、AIにタスクに必要な背景情報を教える「AIオンボーディング」の難しさが実利用のボトルネックになっていました。しかし現在、Claude CodeをはじめとするAIエージェントは、タスクを終えた後の振り返りとして、再現性を確保するための「引き継ぎ書」を執筆できるようになり、あたかも一社員であるかのように要領よくタスクをこなしてくれるようになっています。

そしてこの引き継ぎ書は、作成したAIはもちろん、他のAIでも理解可能な形で執筆されているため、AI間の引き継ぎもほとんど手間なしに行えるようになってきていることが、今回改めて示唆されたのではないでしょうか。

ただし個人的には、現時点でAIは「定型的な仕事」を任せる上では良い相棒であり、まさしく「秘書」なのですが、より曖昧な個人の趣味・嗜好を理解してくれるAIコンパニオン、つまり「友達」として振る舞う能力は、ここ数年でさほどは向上していないように思えます。

個人の特性や人間関係といったプライベートな情報を元に振る舞いをパーソナライズし、それによって大衆を感動させるAIの登場には、まだ技術的なブレイクスルーが必要に思えます。

Google Flow (https://labs.google/flow/about)

• Google Labsが提供している画像・映像制作ツール

• 画像生成AIサービス「ImageFX」の後継ツールでもあり、「Nano Banana 2」を無料で利用可能

• 一括で最大4枚並列で生成できる点も嬉しい

• また無料枠は僅かだが、動画生成AI「Veo 3.1」を試すこともできる

Manus (https://manus.im)

• Gensparkと並んで有名な、汎用AIエージェントツール。Metaが先日買収したことでも話題となった

• 新たにLINEとの連携機能が追加され、LINEからManusにメッセージを送るだけで、リサーチ、webページ、スライド生成といったタスクをこなしてくれるように

• 進捗を細かく報告してくれる点も使いやすい

• 無料でもクレジットが付与され、試すことが可能

最後までお読みいただきありがとうございました。
サービス改善のため、アンケートにご協力いただけると幸いです。「ワンクリック」で完了します。

株式会社Mavericksは2023年、世界に先駆けてリアルタイム動画生成AIサービス「🐬NoLang」をリリースし、現在15万超のユーザーを抱えるまでに成長してきました。法人向けの展開も行い、法人プランのユーザー数は60社を突破しています。また、大手企業との協業や独自開発案件にも着手しており、唯一性の高い価値創出が加速しています。

今後、NoLangを中核に据えながら事業をさらに成長させるべく、エンジニア・デザイナー、営業・マーケティング担当、そして全方位で学生インターンの募集を開始しています。法人営業の担当や、SNS運用などに興味のある方も、ぜひこちらのフォームより一度ご応募ください。

採用ページでは、弊社の実績、求める人物像に加え、メンバーの声をインタビュー形式で掲載しております。興味を持った方はぜひご覧ください。お問い合わせは、[email protected]にて受け付けています。https://

また、私たちはニュースレターだけでなくXやInstagramにおいても、開発プロダクトに関する最新情報について積極的に発信しています。こちらも是非チェックしてみてください！