企業における人工知能の大きな失敗は技術ではなく、人間の行動とその請求管理
過去1年間、人工知能に関する公共の議論はデモンストレーション、約束、企業の購入で満ちていました。 企業はモデル、ライセンス、インフラ、パイロットに対して大規模に投資しました。しかし、取締役会の重要な指標は、試験の数ではなく、四半期の終わりにどれだけのマージンが出ているかです。
MITが引用した研究によれば、95%の企業がAIへの投資に対して測定可能なリターンを得ていないという驚くべき数字が報告されています。全体の支出は300億から400億ドルに達しています。この問題はコンピュータの性能や「モデルの成熟」ではなく、主に人間の採用と、AIの消費経済に合わせて設計されていない内部システムにあります。
消費者の行動と採用の摩擦を分析した経験から見ると、これは二つの古典的な失敗の解剖に他なりません。一つは、エンプロイのデスクで、AIが「高度な検索機能」に格下げされること。二つ目は、バックオフィスで、使用があっても会社がその使用を正確に測定したり請求したりできないことです。いずれのケースでも問題は同じです：存在しない人間と会計を前提にした設計です。
AIが実際の業務に入ると、インセンティブ、習慣、エラーへの恐怖と衝突する
AxialentのCEOであるオセアス・ラミレスは次のように表現しました：「AIはサーバーではなく人々が採用するものです。人々の働き方が変わらなければ、技術はそのまま残ります。」この主張は哲学ではなく、応用経済学です。行動が変わらなければ、技術的資産は埋没コストになります。
TheStreetに引用された研究が示すパターンは、私が採用で観察しているものと一致しています：大多数の従業員はAIを少し賢い検索エンジンとして使用し、ワークフローの再設計とは捉えていません。この微妙な違いがリターンを潰します。「高度な検索機能」は時間を節約しますが、再設計されたフローはサイクル時間を変え、再作業を減らし、意思決定を標準化し、以前は内部のヒーローに依存していた活動をスケーラブルにします。
衝突が起きるのは、組織がAIを常套句に従って展開しようとするからです：ツールを購入し、インストールし、トレーニングし、勝利を宣言する。しかし、採用の失敗はトレーニング不足ではなく、認知的摩擦や知覚されたリスクによるものです。従業員は「AIを拒否している」のではなく、使用する際の精神的コストが即時の利益を上回るときに避けるのです。
行動的には、プッシュは存在します - 繰り返しのタスクへのフラストレーションや生産性のプレッシャー - そして、磁力も存在します - 速度とより良い回答の約束があります。問題は、不安と習慣が勝つことが多いことです。不安は、確率的なシステムに基準を委任することがユーザーを目に見えるエラーにさらすからです。習慣は、現状の中で生き延びるための既知のルートを持つためです：「いつも通りにやる」のはキャリアに影響しませんが、新しいことを試して失敗することは影響するかもしれません。
ここでの重要な点は、多くの階層やインセンティブがAIが存在する前に設計されたということです。営業チームがAIによって生成された予測がクォータや内部の物語と衝突する場合、データは「話し合われる」ことはなく、無視されます。悪意によるものではなく、保存のためです：人間はシステム内での安全を最適化するからです。もしモデルがどのように功績と非難が割り当てられるかという暗黙の合意を脅かすなら、モデルは失敗します。
だからこそ、結果を出す企業は最も洗練されたモデルを持っているわけではなく、モデルの周りに仕事を再構築している企業です。AIは「アドオン」ではありません；それは作業の心理的契約の再設計です：誰が決定し、誰が検証し、誰が署名し、誰がリスクを負いますか。そうした再設計がない限り、ツールは小さなタスクに使用され、ROIは消え、組織は「AIは役に立たない」という誤った教訓を得てしまいます。実際に役に立たないのは、採用のシステムです。
ROIは平凡な理由で破綻する：輝きを購入し、摩擦を過小評価する
引用された研究の数値は勝利の物語に対する一撃です：95%が測定可能なリターンを得ておらず、300億から400億ドルが投資されています。そのようなギャップが生じるとき、その説明はしばしば技術よりも華やかさが少ないものです。答えは企業がどのように予算を割り当て、注意を惹くかにあります。
実際には、多くの組織は目に見えるものに対して熱心に資金を提供します：ライセンス、インフラ、壮大なデモンストレーションを伴うパイロット。これがプレゼンテーションで「輝く」ものです。しかし、実際に行動を促すものは、プロセスの再設計、インセンティブの変更、使用のガバナンス、合理的なエラーからの保護、そしてリアルタイムで試行錯誤するための時間です。
ここでよく見られる企業のバイアスがあります：変革をITプロジェクトとして扱い、運営上の書き換えとして扱わないことです。その結果は予測可能です：使用は表面的なものにとどまります。従業員はツールを開いてメールを書いたり、ドキュメントを要約したり、情報を検索したりするのです。これらは職業上のアイデンティティを危険にさらさず、階層に挑戦しません。「AIは生産性の化粧」に過ぎません。
問題を悪化させる別の詳細があります：失敗に対する組織のレジリエンス。記事は、実験が失敗する場合—そしてそれは頻繁に失敗する—多くの企業があくまで実験を継続하고進化するための制度的能力を持っていないことを述べています。行動的にはこれが重要です：ユーザーの最初の体験が罰のある環境で行われると、採用は死にます。初期の悪いインタラクションは内部のヒューリスティックを生成します： 「これには問題がある」。そこから、各マイクロ摩擦は習慣に戻るという決定を確認します。
最終的な結果は、Cレベルのためには厄介です：「AIが展開された」と報告されますが、リターンはありません。実装を祝う一方で、変更には罰が与えられます。そして、次に繰り返されるサイクル：ツールへの支出が増加し、フラストレーションが高まり、冷笑が生まれます。コストは財務的なものだけでなく、内部の評判にも影響します。各失敗したイニシアチブは次のための政治的資本を減少させます。
採用されても、ほとんどの企業は消費の請求ができないために損失を被る
このストーリーの第二の部分はもっと静かで、CFOにとっては危険です：AIが使用されても、多くの企業はそれを請求するために装備されていない。ヴァユのCEOであるエレズ・アグモンはこう要約しました：「ほとんどのSaaS請求システムは、予測可能なサブスクリプションを念頭に設計されている。AIは変動消費をもたらします。」
問題の核心は構造的です。従来のソフトウェアはシート、ライセンス、またはフラットなサブスクリプションで販売されていました。しかし、AIは変動するユニットで消費されます：処理されたトークン、APIへの呼び出し、モデルの実行など。この消費は変動のみならず、断続的であり、予測が難しいピークと谷を生み出します。古い請求システムがそれを損失なくキャプチャすることを期待するのは、電力を測定するためにレジを使用するようなものです。
TheStreetは、収入の流出を示す具体的なケースを説明しています：あるCFOが、彼のシステムが請求サイクルの日だけ使用を記録していることを発見しました。もしクライアントが月の途中でアップグレードし、その月の請求日前にダウングレードすれば、そのピークは消えます。そのCFO自身はこう厳しく述べています：「請求サイクルの日にあったものだけを請求します。ピークを逃しました。そのお金を失いました。」
この例は、より大きなパターンを明らかにします：AIの経済は正確に測定しない企業を罰します。追跡のギャップが生じ、手動による調整やスプレッドシートとの対比、手動作成の請求書が必要になります。これらは顧客が少なく、ボリュームが低い状況では機能しますが、製品がスケールする際には崩壊します。
収入の流出は一過性のイベントではなく、滴りです。そして、消費モデルでは滴りが累積します。企業はただ単にテーブルの上にお金を置き忘れるだけではなく、価格を決定することにも盲目になります。実際の使用をキャプチャしないと、経営陣は幻想を管理していることになります：製品がXの価値があると信じているが、顧客の行動はYを示している。
さらに、これには顧客の信頼に悪影響を与えるリスクが伴います。請求システムが消費を理解できない場合、二つの対称的なリスクが生じます：過小請求し価値を贈与するか、過剰請求して対立を生み出すか。どちらの場合でも商業関係が侵食されます。AIは精度を約束しますが、エラーのある請求は混乱を伝えます。
実際に効果がある変革: 人間の決定を再設計し、それを収益化する金融力
このニュースは厳しい教訓を残します：企業のAIは二つの世界に挟まれています。上部では革新のスピーチがあり、下部では人間の習慣と遺産的な財務システムがあります。
この罠から脱するための戦略は、モデルから始まるのではなく、生産で望む行動から始まります。価値を捕えることができる企業は、多くのパイロットを持つ企業ではなく、三つの規律ある動きを行う企業です。
まず、AIを具体的な決定に翻訳し、明示的な責任を持たせます。AIの出力が誰が決定するか、いつ決定し、どのような検証基準で決定するかを変えない場合、使用は小さなタスクのままとなります。実際の採用は、運用フローがツールを「デフォルトの道」として組み込むときに発生し、無視することのコストが使用することのコストよりも大きくなるときです。
次に、従業員が個人の成績と採用の間で選択を迫られないようにインセンティブを再構築します。システムが現状を維持することを報酬する場合、習慣は合理的です。企業は、実験が安全であり、合理的なエラーが個人的な負担ではなく、コントロールされた学習のコストである条件を整える必要があります。
第三に、変動消費の世界に合わせて請求を近代化します。商品の請求が使用ごとに行われるなら、会計は使用を細かく、リアルタイムで把握する必要があります。そうでなければ、たとえ採用が成功しても、未請求の成長になります。
Cレベル層への要約は、不安定ながらも実行可能です：AIのリターンは、コンピュータの性能を増加させることで解放されるのではなく、人間的および財務的摩擦を削減することで解放されるのです。技術は輝くことができますが、ビジネスは、組織がこの輝きに全ての資本をかけるのをやめ、それを投資し、ユーザーの採用を妨げ、企業が請求書に価値を捕らえるのを妨げる恐怖と摩擦を取り除くことに資金を投じるときにのみ利益を得るのです。
