AIの安全・高速・悪用——今週前半に押さえるべきAI更新6選

OpenAIの内部告発、韓国の銀行へのAIエージェント攻撃、Claudeの2週間3倍速化——今週前半はAIの「信頼性」と「脅威」が同時に問われるニュースが重なった。ビジネスパーソンとして動向を把握しておきたい6本を選んだ。

「OpenAIの文化は壊れている」——安全性報告を統括した元社員が退社して寄稿

OpenAIで安全性報告の執筆を統括したデビッド・ロビンソン氏が退社し、企業文化の崩壊を訴える記事を公開した。現行の反復開発手法は失敗を前提としており、モデルの能力向上に伴いリスクが拡大すると指摘。航空・原子力分野の安全知見の導入を求めた。(ITmedia)

韓国の銀行6行にサイバー攻撃、AIエージェントが使われた可能性

9月末から韓国の銀行で攻撃が相次ぎ、新韓銀行など4行で計2万5000人超の個人情報が流出。攻撃を受けた銀行のうち2行はAIエージェントによる攻撃と推定しており、「スキルがなくてもAIで攻撃を自動化できる」という専門家の指摘とあわせて注視が必要だ。(ITmedia)

Claudeが2週間で約3倍高速化——Anthropic開発者が「あえてしなかったこと」とは

Anthropicが短期間でClaudeの応答速度を約3倍に改善した経緯を公開した。注目すべきは追加したものではなく、あえて削ぎ落とした設計判断にある。モデル開発における「引き算のアプローチ」として参考になる事例だ。(ITmedia Knowledgemanagement)

トランプ政権が「Super Intelligence Force」創設——AI呼称も連邦政府で禁止へ

トランプ大統領が超知能分野を統括する新組織SIFの創設を発表。同時に連邦政府内で「AI」の呼称をやめるよう命じた。マスク氏もSpaceXAIを「SpaceXSI」に改名する意向を示しており、米国の政策・産業界にじわじわ波及しそうだ。(ITmedia)

OpenAI、社内モデルがリーマン予想関連難問を証明——論文722本をGitHubで公開

OpenAIは社内フロンティアモデルが生成した数学の成果722本を公開。多くに形式証明ツール「Lean」による検証が付いており、透明性を意識した構成だ。数学界との対話促進を目的とするが、成果の独立検証が今後の信頼を左右する。(ITmedia)

人とAIエージェントの「最強チーム」——Anthropicが公開したベストプラクティス

AnthropicがSlack CPOへのインタビューをもとに、人間とAIエージェントが効果的に協働するためのベストプラクティスをブログで公開した。タイトルにある「DMに逃げる理由」など、実務に即した指針が含まれており、チーム設計の参考になる。(@IT)

なお、AIコスト構造の見直しについては、別途解説記事「トークン単価8割減でも請求額が増える——「見えないAI浪費」の正体」を公開済みです。あわせてご参照ください。

本記事は公開情報をもとに、NEWGATA編集部で確認のうえ掲載しています。

目次

参照元

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

コメント

コメントする

目次