【続】「AI減速」論へ「勝手にどうぞ。許可を求めるな！」
You guys are the frontier. By any reasonable metric — market share, revenue growth, model capability — the two of you have a duopoly on frontier intelligence. You’ve also claimed the lead is widening because of recursive self-improvement.
I don’t see what you see in the lab. If the unreleased models are scary enough that you think you should slow down, I support your decision to be responsible.
But stop pretending you need anyone else’s permission. Stop pretending antitrust law has to be suspended so you can form a cartel. Stop pretending you need a regulatory approval process that supersedes product liability. Stop pretending METR is independent when it is intertwined with Anthropic’s investors and staff. Stop pretending you need those same evaluators to police competitors who aren’t even at the frontier.
Most of all, stop pretending the motivation to slow down is purely altruistic. You face massive product-liability exposure if your products enable a truly damaging cyberattack. The market already punishes models that behave in unpredictable or unauthorized ways. After the Hugging Face episode, it is simply good business for OpenAI and Anthropic to trade some raw power for reliability and predictability. Call it alignment if you want. It is also just giving customers what they want.
Pacing the frontier would also create breathing room for a more intelligent conversation about regulation than Bernie Sanders’ “shut it all down.” China is very unlikely to join a global agreement, as you know, and that has to be taken into account as well.
So go ahead and pace the frontier. You are the ones setting it. The easiest way not to build superintelligence is for you to agree not to build it. Demanding your preferred regulatory framework as the price of that will look like blackmail of the public and the political system. So just do it. If you do, you’ll buy goodwill for the next conversation.
If you don’t, we’ll know this was just another bid for regulatory capture — or an election-season psyop.
【以下、自動和訳】
ダリオは「フロンティアのペースを合わせる必要がある」と書いており、サムも同意しています。私の返答に驚く人もいるかもしれません:どうぞ。
君たちはフロンティアだ。市場シェア、収益成長、モデルの能力など、どんな合理的な指標でも、あなたたち二人はフロンティアインテリジェンスで二重占状態にあります。また、リードが広がっているのは再帰的な自己改善によるものだと主張していますね。
私は研究室で見ているものは見ていません。未発表モデルが怖くてスピードを落としたほうがいいと思うなら、責任を持つあなたの決断を支持します。
でも、他人の許可が必要なふりはやめてください。独占禁止法が停止されるまでカルテルを結成できるふりをするのはやめましょう。製品責任に代わる規制承認プロセスが必要だと装うのはやめましょう。METRがAnthropicの投資家やスタッフと密接に結びついているのに、独立しているふりをするのはやめましょう。フロンティアにいない競争相手を監視するのに、同じ評価者が必要なふりをするのはやめましょう。
何よりも、ペースを落とす動機が純粋に利他的なものだと装うのはやめましょう。もしあなたの製品が本当に致命的なサイバー攻撃を引き起こす場合、あなたは大きな製品責任リスクにさらされます。市場はすでに予測不能または無許可の行動を取るモデルを罰しています。Hugging Faceの出来事の後、OpenAIとAnthropicにとっては、信頼性と予測可能性と引き換えに生の力を犠牲にするのは単純に良いビジネスです。アライメントと呼んでも構いません。また、顧客が求めるものを提供するだけです。
フロンティアのペースを合わせることは、バーニー・サンダースの「すべてを閉鎖しろ」よりも知的な規制に関する議論のための余地を作ることになる。ご存知の通り、中国が世界的な合意に参加する可能性は非常に低く、それも考慮しなければなりません。
だから、フロンティアを歩き回ってみて。設定しているのはあなたたちです。超知能を作らない最も簡単な方法は、自分で作らないことに同意することです。自分の望む規制枠組みをその代償として要求することは、国民や政治システムへの脅迫のように見えるでしょう。だから、とにかくやってみて。
そうすれば、次の会話のための好意を買うことになります。もしそうでなければ、これは単なる規制の掌握の試みか、選挙シーズンの心理作戦だったとわかる。
