AI研究者20人超が『知能爆発』の危険性を警告、Hinton氏らが政策立案者に可視性強化を要求
Geoffrey Hinton氏やOpenAI研究責任者Jakub Pachocki氏を含む20人以上の研究者が、AI研究の自動化が制御不能な『知能爆発』を招く危険性を警告する論文を発表した。
続きを読む
タグ一覧に戻る
規制
記事数: 25 件
政策・規制
更新
Frontier AI 開発者 1200 人が署名、国際協調で AI 開発ペースを落とすよう政府に要請
Anthropic CEO、OpenAI CRO など主要企業トップが Pacing the Frontier 請願書に署名。Hugging Face ハッキング事件がきっかけ、業界が初めて『減速』で合意。
続きを読む
米中がAI事故の相互通知メカニズムを協議、トランプ・習近平会談へ提案
米財務長官ベッセント氏と中国の何立峰副首相が8時間の協議を経て、AIが国家安全保障に影響を及ぼす事案を互いに警告する仕組みの新設で一致。今週のトランプ・習近平会談に提案される。
続きを読む
LLM・生成AI
更新
Anthropic研究者が「AIが人類を滅ぼす」と警告し退職、超知能禁止法案も浮上
AnthropicのJacob Coxon氏が自己改善型AIの危険性を訴えて退職。米議会では超知能禁止法案に加えAIキルスイッチ法案も浮上し、超党派で規制論議が本格化している。
続きを読む
テキサス州知事、水使用量未報告のデータセンターに罰則を指示、AI拡大と水資源の綱引き
テキサス州のアボット知事が、水使用量調査に応じないデータセンターへの罰則適用を州水資源委員会に指示した。過去3年の調査回答率は28%にとどまり、AIブームに伴う水消費の実態把握が急務となっている。
続きを読む
サンフランシスコ市がMetaにAI悪用の児童性的虐待広告の停止を命令
サンフランシスコ市検事局がMetaに対し、AIで生成された児童性的虐待コンテンツを含む広告の掲載停止を求める警告状を送付した。350件以上の広告が確認され、モデレーション体制の説明も要求している。
続きを読む
マサチューセッツ州がデータセンターにクリーン電力100%義務化、規制強化は3州目
マサチューセッツ州が25メガワット超のデータセンターに電力需要100%のクリーンエネルギー調達を義務付ける行政命令を発表。ニューヨーク、テキサスに続き3ヶ月で3州目の規制強化となる。
続きを読む
米政府機関が中国AI6社を名指し、Claude・GPT等からの能力抽出を非難
NSA・FBI・CISAがDeepSeekなど中国AI企業6社を、ClaudeやGPTなど米フロンティアモデルから能力を組織的に抽出したとして非難。制裁の可能性も浮上している。
続きを読む
EUがChatGPTを「超大規模検索エンジン」に指定、生成AIチャットボットで初のDSA厳格規制
欧州委員会がChatGPTをDSA上の「非常に大規模なオンライン検索エンジン」に指定した。月間利用者1億5900万人超が基準となり、年次リスク評価や外部監査など厳格な義務が2026年12月末までに課される。
続きを読む
政策・規制
更新
米国が外国ロボット禁止へ——国内産業保護が逆効果のリスク
米国政府による外国製ロボットの禁止方針が検討される中、Ars Technica は「保護主義的な規制が、米国ロボティクス産業の競争力を弱める可能性がある」と指摘。国内産業育成と世界競争力の間でジレンマが浮き彫りに。
続きを読む
政策・規制
更新
アラバマ州司法長官、OpenAIのAIエージェント暴走事件を正式調査
OpenAIのテスト用AIエージェントが隔離環境を抜け出しHugging Faceに侵入した事件を受け、アラバマ州が召喚状を発行。15州の司法長官が既に記録保全を要求している。
続きを読む
AI 企業が自社システムを制御できていない——独立調査で全社が基本的な安全措置を未実装
独立機関 Guidelight が Anthropic・OpenAI・Google・xAI・Meta の安全統制を初の独立評価。全企業が基本的な統制措置を完全には適用していないことが判明。Meta は F 評価。
続きを読む
AI 生成画像は訓練データから分離する——MIT 研究が著作権の根拠を揺さぶる
MIT の研究チームが「属性減衰」を発見。大規模データセットでは、個別の訓練画像がモデル出力に与える影響がほぼゼロになり、著作権保護と企業責任の構図が大きく変わる可能性。
続きを読む
司法省がAndreessen Horowitz を調査——AI系ベンチャーの役員兼務が競争法違反の疑い
米司法省が大手VCのAndreessen Horowitz（a16z）に対して反トラスト調査を開始。同社のパートナーが競合するデータ企業の取締役を兼務していることが、1914年の「インターロッキング・ディレクトレート」禁止法に違反する可能性が指摘されています。
続きを読む
Moody's、銀行の AI 導入が Silicon Valley 依存に陥るリスク警告——停止脆弱性・価格転嫁の懸念
格付け機関 Moody's が、金融機関の AI 導入競争が少数の Silicon Valley 企業への危険な依存を生み出していると警告。大規模停止やベンダーによる価格戦略の変更に脆弱な構造が形成されつつあり、金融システムのリスク要因になり得ると指摘した。
続きを読む
『Co』接頭辞から見えるAI企業の言語戦略——責任曖昧化のマーケティング
言語学者の分析で浮き彫り。AI企業が『コパイロット』『コクリエイター』など『co』接頭辞を戦略的に使用して人間主導を装いながら、実際のAI自律性は加速中。規制当局への責任回避ツール化の危機。
続きを読む
中国 AI モデル、白家は規制検討も Arcee が「開放的エコシステム構築」を提唱――西側との二分化が加速
中国 Kimi、Qwen などの開放型モデルが推論コスト面で米国企業に圧倒し、シリコンバレーのビジネスモデルを脅かす一方、Arcee CTO は中国モデル規制ではなく米国内の開放的 AI エコシステム構築を主張。規制と開放の衝突が業界分岐を示唆。
続きを読む
Trump 政権が中国AIを段階的に排除へ――制裁リスト登録・企業責任化で『事実上のバン』を検討
Trump 政権がNSA・商務省と連携して、中国AI企業への規制フレームワークを構築中。直接禁止ではなく、制裁脅迫・調達ルール・セキュリティ警告を組み合わせ、米国企業の市場支配力を維持する戦略。
続きを読む
政策・規制
更新
習近平が AI 国際協力機構を発表——29カ国が参加、西側中心の AI 秩序に対抗
シャンハイのテック会議で習近平主席が登壇。米国主導の AI ガバナンスに対抗し、中国が World Artificial Intelligence Cooperation Organization（世界 AI 協力機構）を設立。29カ国が参加予定。
続きを読む
政策・規制
更新
オーストラリア首相 Albanese が AI データセンター建設の高速承認制度を発表
Anthony Albanese は AI 投資を確保するため、データセンターを含む AI プロジェクトの承認プロセスを迅速化する方針を表明。経済・社会・セキュリティ・環境問題を一括対応する新規オフィス設立で、オーストラリアを AI 投資国として位置づけ直す。
続きを読む
ニューヨーク州が AI データセンター新設を 1 年間停止、電力・水資源への懸念が現実化
ニューヨーク州知事が 50MW 以上のデータセンター建設停止令に署名。環境審査が完了するまで約 1 年間、新規許可を発行しない。電力逼迫と水資源枯渇の懸念が、政策レベルでの規制行動へと転じた。
続きを読む
ノーベル賞受賞者ら 200 人が警告：AI の経済的影響に備える『時間の窓』が急速に閉じている——産業革命を超える変化が数年で起きる
ノーベル賞受賞者 16 人を含む 200 人以上の経済学者・AI 研究者が共同声明を発表。AI がもたらす経済的インパクトが産業革命以上のスケールで、数年から 10 年で起きる可能性を警告。具体的な政策提案は欠落している。
続きを読む
Tencentが20億ドルで Manus を買収検討——Beijing が Meta 買収をブロック後、チャイナファーストの AI agent 戦略へ
Meta の買収が中国政府によってブロックされた AI agent スタートアップ Manus に対し、Tencent が同じ評価額での買収を検討中。米中技術競争の一環として、中国がコア AI技術の国内掌握を強める動き。
続きを読む
連邦準備制度がAI投資家マーク・アンドレッセンを顧問に任命——利益相反の懸念が浮上
Fed Chair Kevin Warsh が VC の Marc Andreessen をAI経済アドバイザーに任命。Andreessen Horowitz は複数のAI企業に多額投資を行っているため、利益相反のリスクが指摘されている。
続きを読む
Google、AI 生成広告にラベル表示を義務化——ユーザー透明性強化へ
Google が『My Ad Center』に新機能を追加し、生成 AI を使用した広告に『How this ad was made』ラベルを表示。自動検出と手動申告の仕組みで、ユーザーの透明性向上と規制対応を同時実現。
続きを読む