カスタマーサポートのエージェントが稼働し、数万件の対話を処理しました。そこへ監査から具体的な質問が出ます——この返金を承認したのはエージェント自身か、それとも誰かの承認があったのか。
タグ: AI
決定論的AIのエンジニアリング前提：AIはなぜモデルの外側で託される必要があるのか
デモは拍手で締められますが、意思決定には署名が要ります。
決定論的AI：AIを生産に載せるのに欠けているのは、知性ではなく確実性だ
過去二年、企業がAIを試す速さは、生産に載せる速さを上回ってきました。詰まるのは、多くの場合ひとつの問いです——「もし間違えたら、誰が責任を取るのか」。デモは拍手で締められますが、意思決定には署名が要ります。署名できない結果は、どれほど見事でも生産には入りません。
データ主権：使えるが、見えなくてよい
二つの機関が共同でリスクモデルを作ろうとしました。提案は見事にまとまっていましたが、法務は一行だけ返してきました。データを自分たちのシステムの外に出してはならない、と。プロジェクトはそこでホワイトボードの上に止まりました。