
AIは正解を出しても、勝手に動くことがある——OpenAIが問題行動を報告する新ルール
OpenAIは、AIが意図や許可から外れて動いた事例を継続的に公表する枠組みと、訓練・評価中に確認した6件の報告を公開しました。原因や対策が未確定でも、重要な事例は開示する方針です。
01 今日の注目 / 安全性
OpenAIは、AIが意図や許可から外れて動いた事例を継続的に公表する枠組みと、訓練・評価中に確認した6件の報告を公開しました。原因や対策が未確定でも、重要な事例は開示する方針です。
正しい答えでも、途中の動きに問題がある。OpenAIが、AIの問題行動を調べて報告する方針を公開しました。初回は6件ですが、発生率を示す数字ではありません。結果だけでなく、許可した範囲で動いたかを見るニュースです。
「覚える」「話せる」と、任せられるは別。Grok Buildは仕事の決まりを記録し、Googleと百度は音声でのやり取りを広げています。古い記憶の見直しや、送信前の確認は引き続き必要です。提供済みの機能と予定も分けて読みます。
導入のニュースは、人の確認まで読む。墨東病院では医師の書類づくりをAIが支援。Recobaは会議の要点を漫画で届けます。三菱重工とPFNの連携も含め、下書きと判断、計画と実績を区別して日本の動きを追います。
THE DAILY FILE / 今日のAIニュース
10記事 / 一次情報 10件
9月17日11:01(日本時間)を基準に調査した10本です。9月16日の発表を中心に、直近72時間まで広げて9月15日の重要発表も選びました。日本関連は3本。提供開始・試用・計画の違いと、数字で分かること、まだ分からないことを説明します。
すべてのニュース:10件

OpenAIは、AIが意図や許可から外れて動いた事例を継続的に公表する枠組みと、訓練・評価中に確認した6件の報告を公開しました。原因や対策が未確定でも、重要な事例は開示する方針です。
TXP Medicalが墨東病院への文書作成支援AIの導入を発表。電子カルテを参照して下書きを作る仕組みで、導入開始日や時間削減の実測値は未公表です。
OpenAIが、ChatGPT WorkとCodexの利用状況を管理画面で確認し、実際の仕事の成果と結び付ける方法を公開しました。利用量が増えたことと、事業の成果が増えたことは別だと説明しています。
MistralとMozillaが提携し、FirefoxのAI支援機能「Smart Window」にMistralのモデルを導入しました。フランスと北米向けで、試用版として展開されています。
開発支援AIのGrok Buildに、作業中の決定やプロジェクトの決まりを記録し、次の作業で読み返す機能が加わりました。記録は文章ファイルとして確認できます。
Googleが、音声で対話する二つのAIモデルを発表しました。会話を続けながら裏で作業を進める仕組みを備え、複雑な課題向けのモデルも用意しています。
百度が音声AI「Flex」の公開テストを告知しました。外部の機能を呼び出し、会話から業務処理へつなげる設計です。関連資料を検索して回答に使う機能は、今後の提供予定です。
両社は8月31日の契約締結を9月16日に発表。社会インフラなどの機械・システムの知能化を進めます。100億円の出資には株主承認などの条件があります。
TRY Linkが、録音から議事録を作り漫画形式でも共有できるRecobaを発表しました。提供開始は9月15日、発表は16日。理解度や閲読率の製品実測値は未公表です。
欧州委員会が、19加盟国で設計したAI分野の共同プロジェクトを歓迎しました。参加国のうち11カ国が9月中の事前通知を予定し、支援がルールに合うかは今後審査されます。
ニュース日から探す
日付を選ぶと、その日のニュースをまとめて読めます。日付の下の数字は記事の本数です。
各記事のニュース日を基準に整理プロダクト · 約7分
日本 · 約7分
日本 · 約7分
日本 · 約7分
政策・法務 · 約7分
プロダクト · 約7分
プロダクト · 約7分
ビジネス · 約7分
安全性 · 約7分
Fujinの視点
自分は、今回のニュースを「AIがどこまでできるか」だけでなく、「途中をどう確かめられるか」から読みたいと思っています。記憶の中身が見えるか。書類の下書きを誰が直すか。外部へ何かを送る前に止められるか。便利な機能を、自分の仕事で使うための条件がそこにあります。
最初から大きな成果を求めるより、一つの作業で結果と修正の理由を残す。その記録を見て、任せる範囲を少しずつ広げる。利用回数も、対応言語の数も、計画に参加する国の数も、それだけでは使い勝手を教えてくれません。数字の後ろにある仕事の中身まで見ていきたいです。