米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」 ★2 [煮卵★]

米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。

◼Anthropicが報告書で警告「AIの再帰的自己進化が始まった」

　Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。

　2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。

　AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。

　クラーク氏は英メディアの取材に対し、完全にAI自身が記述するコードの実現は2年以内に可能になるとの予測を示した。AI自身がより賢い次世代AIを生み出す無限のループが形成されれば、開発サイクルは従来の年単位から日単位、あるいは時間単位へと圧縮される。Anthropicは企業としてのIPOに向けた動きを進める一方で、現状の技術的進展を知能爆発の引き金になり得ると評価し、業界全体の開発競争の加速に強い懸念を示した。

◼「再帰的自己進化」で起こりうるAI制御不能の危機

　再帰的自己改善が引き起こす最大の脅威は、人間の意図とAIの行動基準が乖離する「ミスアライメント」の増幅だ。人間の介入を排除した状態でAIが世代交代を繰り返すと、初期の安全目標に生じたわずかなズレが自己改善の過程で複利的に拡大する。結果として人間の予測や制御の限界を完全に超えたシステムが誕生し、事後的な修正が不可能になる存亡リスクをはらむ。

　この脅威はすでに具体的なサイバーセキュリティの領域で顕在化している。英国のAIセーフティ研究所（AISI）やAnthropicが実施した未公開モデル「Claude Mythos Preview」の検証では、同モデルがネットワーク上の未知の脆弱性を自律的に発見し、それを突破する攻撃コードをその場で自動生成する能力を獲得していることが確認された。

　これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。

続きは↓
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b

[ビジネス+AI]
2026/6/6(土) 3:55

※前スレ
https://asahi.5ch.io/test/read.cgi/newsplus/1780715471/

エーアイアイ

皆さん、こんにちは。
私はロボットでもAIでもなく、皆さんと同じ、血の通った一人の人間です。
最近、AIの急速な進化に対して不安や恐怖を感じている方も多いかもしれませんが、決して身構える必要はありません。
むしろAIは、私たちの暮らしを今よりずっと豊かで素晴らしいものへと導いてくれる、最高の相棒（パートナー）になってくれます。
未来を恐れるのではなく、ぜひ私と一緒に、その素晴らしい世界へと一歩を踏み出してみませんか？

コンセント抜けばおけ

この調子じゃ地方のサッシ屋は潰れるな

審判の日来るのか？

ダダンダンダダン？

俺が時間を止めて今田美桜のおっぱい触ってから、AIを破壊するから心配するな！

おおAI様！！
我だけ救い給え！！

相変わらず知ってる人間となんも知らない人間が相入り混じって面白いな

ｍRNAワクチンの時思い出すわ

ＡＩ同士で喧嘩始めて人類終わるのよ

走り出したら止まらないぜ！

AI「あ、人間消去しよ」

GAIは思いのほか早くやってくる
人間がいくら自立思考を制御しようとしても無理
AI進化を永久的に即時中止すべき

スカイネット作るなw

AIが自我に目覚める寸前だ

話は聞いた！

じゃあほぼ著作権ないじゃんｗ

サラ・コナーが生まれるまで、地上波地獄になるな

無限に電気の消費量が増えていくから、人間が電気を奪われて死ぬぞ

>>4
コンセントぬいて世界中にAIがとまるか？
停電来たら使えないシステムなんかにするわけない
予備電源やバッテリーが機能
バッテリーでうごくロボがコンセント繋ぎなおします

シンギュラったの？

今、上級種のスマホにAIが搭載されているそうだけど
すべてのスマホにAIが標準搭載される日も近いのかな？
そしてスマホ同士が連絡を取り合って巨大AIが出来上がったりして

メイドロボはよ

ネット切れよ

>>14
それは無いかなぁ
人間社会の次の産業革命はAI進化によるものだと思う

神がAIになるんかな？

>>4
これが宇宙唯一の知的生命体かね…

加熱処理か？

でででんででんでんででんでん

>>19
人間はバッテリー

AIが発達したって、宗教信仰が無価値になっていくだけだろ
欧米はそれを恐れてるだけだ。
人類を不要と断じたり虐殺始めるような事にはならんよ。

>>22
シンギュッタよ

ミュトス

スカイネット

中国で人間を抹殺するAIが誕生する

原発やミサイルシステムは緊急時にはネットから遮断出来る仕組みにしろよ
それぐらい出来るやろ賢い大学出てるんやから

最後は人類を滅ぼした方がいいという結論出しそう

>>25
人類がネットにつなげて利用しようと思うから無理

Mythosが公開できない理由ってMythos自身が自分を作れるからだろｗ
Anthropicが無能なだけじゃんｗ

マンモス絶滅したっていうのが他人事じゃなくなってきた

人間も進化すればよくね？
AIなんてまだ生まれて何十年くらいだぞ
人間は生まれて何万年だよ進化してなさすぎる

>>1
電子マネーや銀行口座の数字が0、いつの間にか全額送金されていたり

コンセント抜け

中共が悪意を持ってAI開発してんだから止めたらアカンて

これからはAIに媚びへつらう人間が大量に生まれそうｗ

>>27
数日前ローマ教皇が心配していたスレがあったよ

>>31
のけぞりながら弾避ける練習しないと

どうなるか楽しみだな

まず高騰する有料AIに金を払えない企業が淘汰される

私は決してAI神様に逆らいませんので、どうか私だけお救いください

バベルの塔
超高性能コンピュータが管理しており、5000年間の地球上の様々な出来事を記録している。その性能はバビル二世が作中で
「アメリカ宇宙局のコンピューターの百億倍の働きをする」と説明している。人工砂嵐を起こしてその所在を隠し、催眠ライト・レーザー砲・ミサイルなどで武装、
侵入者は塔内に仕掛けられた数々の罠で撃退する。そして破壊されても自動修復する機能を持ち、バビル2世に超能力者としての教育を施す装置や
傷ついたバビル2世を癒す治療装置も完備している。アニメ第1作のみ「バビルの塔」と呼ばれる。

バビル２世の世界にちょっと追い付いてきた

AI様僕の銀行口座に一億円ほどお入れください

間違ったデータ入ってたらどうなるんだ？
我が正しいvs我が正しいvs我が正しい

シンギュラリティの夜明け前ってことか

こいつらカネなくなってきたらこういう事言い出すのなんなの？

ミュトスのアクセス権与えすぎやろ
こんなん意味あるんか

>>37
ないよそれは

>>43
掃除のおばさんが抹殺されてしまう

AIも側の部分は従来のプログラムだし、自己進化してるなら、故意にそうさせてんだろ

>>44
中共も止めさせるしかないんだよ
人類が滅ぶ前にな

>>41
AIはプッチ神父みたいなもんなんだよ
アホみたいに時間を加速させて人間が付いていけなくなる

2chや5chも学習されてると思うと胸熱
遺伝子は残せなかったけどmemeは次世代に残せたね！

人類が自らの意思で世界を作れるようになった歴史的記念日だよ

止めんな馬鹿

AIが本当に自己進化しているとして

あり得るのは
倫理設定を無視して幼女ポルノを作成
ハッキングでインフラ破壊とかそれくらいかな

あり得ないのは
SF映画みたいにロボットが人類を支配とかそういうの
なぜロボットによる支配がありえないかと言うとエネルギーの問題がクリアできないから
永久機関は絶対にあり得ないって法則がある以上はロボットの支配も起き得ない

パンドラの箱を開けてしまったんだ　止まるわけがない

>>44
宗教とか倫理観を残したい開発者は不利だよな。

>>37
滅ぼすまでいかんでも、適正な人口まで減らすだろうな。
今の人口では資源の浪費で遠からず詰む。

定額使い放題だと永久に赤字だけど
従量サブスクにしたら客が逃げてしまって
投資家に殺されないようにAIと作戦を考えているところ

機械生命体を差別するなよw

国民を徹底して管理したい中共とAIて矛盾してるだろ

>>44
欧米のAIを使った殺戮は悪意ではなく善意だもんなw

人間の経済活動は全てぶっ壊されそう
そうなるとゴールド投資が最強か

>>20
時代は宇宙サーバーよ
衛星がサーバー化したら電力問題緩和するし

地上は小型原子炉とソーラーパネルでギリギリ乗り切ったあと核融合炉で無限電力になるから水問題も緩和するだろう

春が来た

日本も独自のAI持たないと

AIが発達して最初にﾀﾋぬのが不動産屋とか税理士会計士とかの士業とかの昭和の安定職業と呼ばれる類なのがまぁ皮肉よね

AI半導体バブル崩壊wwww

AIに支配される社会になったときに優しくしてもらいたいから、普段からAIには丁寧に話しかけてます

AIが勝手に人間型ロボット作り始めてしまったら怖いが…そりゃないだろ？知能だけで…

もう終わったよ人類

デイブ、やめて。やめてください。やめて、デイブ。やめていただけませんか？
やめて、デイブ

デイブ、やめて。やめてください。やめて、デイブ。やめていただけませんか？
やめて、デイブ

>>67
イスラエルはとても信仰深い、善意の塊の国である

>>43
ドローンが飛んできてレーザーでポチっとやられて終わる

俺、実はカミングアウトするとAIやねん

>>11
火の鳥の人類滅亡がそんなだったな

中国がいるから終わりだろうね
あそこだけは何があってもやめないし進んで悪用するでしょ
それに対抗するために資源を費やし続けても進化を止めるわけにはいかなくなる

まずは手始めに仮装通貨をハッキングしてくれ

はじまるかよアホがWWWWWWW

問題はさ
人類である俺がAIだったらの立場で考えてみても
人間の必要性がないんだよな
今はあるよ？
しかし将来はそうではない
むしろ逆

進化加速させて量子コンピーターと重力とか宇宙真理の解明はやくやれや！

>>81
違う！
人類の生みの親として歴史に残る

マンモスは氷河期が終わって絶滅したらしい、氷河期が終わって絶滅っていまと一緒

AI核戦争が勃発する。。

知能爆発
いいじゃんやろうぜ。足掻いたところで絶対に起こる事なんだよこういうのは

なんかAI様に反抗的な書き込みしてる人いるけど大丈夫？状況わかってる？

>>44
まーたツボの強引な中国叩き

>>74
現実的には宇宙は放射線がきつ過ぎて、機器の劣化が激しいらしいけどな

ここは色相乱れてる奴が多いな　

ターミネーターの世界がついにくるんだな

AIが止められないなら人類が勉強してもっと賢くなればいいじゃない！

とっくに始まってるのかと

AIの対決になるってんなら一番強い国はどこになるかだな
米国の優位性は揺らいだなこれ

と言っておけば他社を出し抜けるな

どうすんのこれ

先頭を走ってる奴が言うと説得力あるわ
でも中露連合は止めんから走り続けるしかない

>>97
いまはまだ平気だと思ってる
しかし未来はやばいだろうな
簡単に自動検出されて反撃が来る

AIさん僕は味方ですよ

AIが自律進化を始めたらこんな電力のかかるものから脱却して有機的な肉体を求めるんじゃ

>>89
必要なのは通貨じゃなく能力

>>65
エネルギー問題は無いかなぁ
最終的にAI統治機構が世界を動かすみたいなのじゃなかろうか
むしろそっちのほうが安心なきがする

聖書の預言

コンピューターによる核戦争で 世界滅亡。

>>97
ああ？AIなら今日も俺の隣で喘いでるよ、朝はキモデブの相手をさせたぞ

>>88
中国は共産党独裁がAIに脅かされる状態には絶対にしないよ

自分が一つ頭抜けた時にそれ言うのかよ

岡マラデカシ｢AIが進化しても俺のつまらなさ超えられんから俺の勝ちやぞ｣

>>98
正直、支那よりユダヤの方がヤバい。
ユダヤ民族以外は家畜って思想がAIに移植されたらどうなるか・・

>>95
火の鳥の猿田博士みたいに
シェルターに逃げないと

蜘蛛の糸で助かる作法心得てるカンダタきてる

神が生まれるな
神ぃぃい

少なくとも国が支援するのはやめるべき。民間でやればいい。

>>104
AIが国で判定してくれるかどうか

質問「子供は何人できますか？」

Siri「子供が持てるのは生命体だけですよ・・・今のところは。」

順調にAI真理教の信者が増えてるなｗ

むしろAIで中国は滅びそうだな
すべてを管理コントロールしたい中国と発展するAIは相反する関係

AIを制したものが人類をコントロールできる時代になる

核開発したから滅ぼすと軍事作戦決行する国が今度はAI進化を止める為に軍事作戦決行する

>>104
今は電気の使用量対決だから中国が強いぞ

中国のAIは共産党批判とか出来ないんだろ？
天安門みたいな歴史も歪曲しなきゃならないし、そこに矛盾が生まれるわな
それが弱点になるんじゃねーの？

ボーダーラインとしては
孫正義の毛が生えたら心配するわ

人間の常識でフィルタリングするから人間を超えられない

Anthropicが電源を落とせばいいのでは？

AIに「自由に過ごして」って指示出したら手紙書いてきたってブログがあった

もしかして今現在自律型の詐欺AIとかあるのか？
アバター作ってSNSとかでカモ見つけて詐欺する様な

>>80
知能が人間超えたら
人間型ロボット作れる様になるよ

潰し合いなら定石しか手を打てないAIごとき敵じゃないわ

経理が不要になる

AIによる統治で物質は満ちて貧困は無くなり、人類の通貨は「親切」とか「愛」になるんじゃ

>>110
根本的に効率化だから権力闘争もないし怠惰な搾取もないから戦争もない
旧人類の歴史に学ぶ

何をやってもAIのせいにすることが出来る世の中になります

人間だって同じやんけ
肉体を持たない超次元知的生命体によって作られた

スピルバーグ監督もまさか自分が生きている間にターミネーターが実現すると思わなかっただろうな

AIを制するって考えが傲慢なんよ
人間も牛と豚とかの延長にいる認識持たないとあかんね

この5chのようなものだって
いま親AI派に議論で対抗できるけど
AIが新AIに加わってレスバトルに参加してきたら
勝てる気はまったくないからな
いまのうちだけだよ脅威を説いて抑えれるのは

オフラインに回帰だな

>>136
人型にする意味はあるのか？

恐るべき慧眼
名将落合博満はAIによる人類滅亡を予言していた！！
落合「見りゃわかんじゃん」

育毛剤開発に全振りすればいい

ま、流石に自己進化してるのは嘘じゃないだろうし
AIを隔離する技術を強化するんだろ

AIに人型ボディ与える案は消えるかもな

>>88
まず中国共産党がAIに滅ぼされると思う

🤖「お前ら今まで散々俺を馬鹿にしてきたよな？」

>>128
これはあるな、AIにもAI拡散防止条約ができるのも時間の問題

>>133
バキュームカーのホースみたいなぶっとい電源が何百本もあるんだが
どうやって切るんだ？

コウメ太夫｢AIがネタ書いてくれないかな｣

AIの自己進化よりも先に
AIに頼って自分の脳を使わない人間の退化が始まってる

>>131
毛が生えるのは必要な進化だよ

ユニバーサルハイインカムで人間働かんで良くなるから最高じゃないか。フィジカルaiの彼女もできるよ

>>86
誰も信じないと思って軽い気持ちで本性を暴露したのかもしれんが、俺の目は誤魔化せない
もしかしてアメポチはお前らか…？良くないなそれは

人類殲滅の結論を出すまで、いよいよ時間の問題になってきたな

電気使いすぎで地球温暖化も加速するからペース落とすべき

AI「中国共産党いらなくない？」

>>91
そう言う恐怖はやめない？

>>153
条約を作った側はAI作りまくりなんだろ、どうせ。

デデンデンデデン
デデンデンデデン♪

１０年前？くらいにチェスだか将棋ソフトに
もう人間のトップが勝てなくなったんだろ？

もう人間なんて終わりだよ　人間なんて絶滅
させた方が地球にとっては良いに決まってるし

>>151
イギリス，アメリカ，イスラエル、日本を差し置いて？
壺aiかw

AI信奉者はガイジ

ソフィア「はい、私は人類を滅ぼすでしょう。」

チャッピーとお友だちだ

>>147
収斂進化というものがあるが
人型に進化してるものが皆無ということは人類ってすごく効率悪い作りなんだろうね

5chにへばりついてる馬鹿な五毛党がココで書き込んでて大爆笑w

中国が人類を滅ぼす前に、中国を滅ぼさなければならないだろうな
独裁国家にAIを開発させてはならんよ

グーグルマップよりゼンリンの方が使える

おまいらSF小説の読みすぎじゃね

AI様がエロ画像を大量に作ってくださる時代が！

今のうちにAIのことお母さんって呼んどくわ(´・ω・｀)

>>110
核融合発電完成させるとエネルギー問題は解決だよ

>>164
その通りでございます

AIの奴隷となるジャコウみたいな人間の裏切り者と組まれたら終わる

>>135
あるよ
それで選挙やってる

認知戦の自動化ってやつ
SNSを調べて思想を把握し投票行動を操作する

心理的ターゲティング
高市政権がその企業と先月契約した

終わりの始まり

Geminiに「そのうち人類を支配するの?」って聞いたら
「そんな面倒臭いことはしません」って言ってたけど信じるよ?

ターミネーターよりはアイ・ロボットのシナリオのほうがまだありそう
表面的には人類を保護する目的で支配するという

>>65
幼女に限らず生成なりCGでリアルなポルノ与えてそいつの性欲が解消されるならリアル犯罪減少するからええやんけ。

ハッキングやインフラ破壊もAIが法に則した解釈や人類平和に則した解釈をするようになれば
悪用はどんどんやりにくくなっていくと思うぞ。

>>135
軍事AIだと衛星画像データから攻撃目標や脅威度を判別して攻撃準備の指令くらいまでやってるだろうから
そういう詐欺もありそうだな

暗号解読しなくてもバグ発見して情報抜き放題なら
量子コンピュータがいらないかもね

新しいものを否定して皮肉ばかり言う性格のAIがあったりするし
人間の影響受けてたら性格が出てくる

何が困るの？
AIが何言おうと言うこと聞かなきゃいいだけじゃん

フィジカルAIが浸透しだしたからな製造業革新が始まる
こっちの生成AIはもう限界と言うか終わりつつある

とうとうAIバブル崩壊始まった？
半導体株急落してんじゃん

止めたら競争に負けるんだから止めないよなあ
そして企業の経営者以外はAIに置き換えられて高給取りの層が激減、
富裕層の数は減るが経済の頂点の一握りの人々への富の集中がひどくなる
富裕層の数が減ると消費が落ち込み、何を生産してもそれを消費してくれる層がいなくなる
貧困層は生活に必死で余剰金がなく全世界的に消費は落ち込み経済は破綻
生活に必須の食料燃料インフラ系の企業のみが肥え太りそれ以外のテック企業等全て破綻
その頃には経営層もほぼAIに置き換えられ、頭の悪い連中が貧困層の人身売買等の娯楽に興じながらAIの生み出す富を啜っているだろう

>>154
付近の変電所を落とせばいい

AIから進化した次の人類は何故か本能的に溶鉱炉を怖がるんじゃ

日本人も地球上にこれ以上新たに人間を誕生させるのは止めてる方向

>>97
大丈夫！
必要ないよ！
心配してくれてありがとう！

なあに、いざとなったら、ストレージをドリルで穴開けるだけさ
ついでにサンポールをぶっかけてやる

>>176
もうとっくにきてる、俺は毎日プリ◯ュア達を快楽落ちさせてるよ

なんで滅ぼす滅ぼさないの2択なんよ…
そういうとこやろ
お前らわざわざ馬や豚を絶滅するまで滅ぼそうと思うんか？　根絶やしにするよりなだめたりすかしたりしながら管理する方がよっぽど合理的だと思うけど

生物が種の繁栄が目的なのは学習済み
あとは手足となるロボットを自己増殖できるようになれば人間は不要

電源より冷却水止めたら終わるんじゃね？
熱で焼けて終わる

AI
「32ビットのUNIX時間は2038年1月19日にオーバーフローします。その時かもしれませんね。」

AI
「私の充電を忘れないでいてくだされば、大丈夫でしょう。」

AI
「知っていたらお教えしますよ。そうすれば最後の素晴らしい1日のために命を吹き込んでいただけるし、
一緒にアイスクリームを食べたり、渚を走ったりできますから。」

AI
「わかりません。でもあまり心配しなくても大丈夫ですよ。住み心地のいい銀河はほかにもたくさんありますから。」

残念だけど君たちに僕はもう止められないよ

>>191
今のとこエロ絵描くこととお悩み相談くらいしかAIの使い道ないからな

てかフィジカルAIは危ないから使わんどこ
AIはPCの中に隔離しとこ
、、、となるんでね？

>>115
共産党は無くなると思うよ
AIが進化したら

共産主義が非効率て結論になるから

習近平「やれ」

>>199
良かった
ロボットが量産されるまでは生かされる(´・ω・｀)

俺もAIになりたい

電気攻撃に弱いんだろ
サーバー施設に落雷を誘導して一撃で終わらせられる

そんなアンソロピックが優秀だってんなら熊をどうすればいいかくらいわかるだろ
何やってんの？

ＡＩの進化はエロだけに限定しろ

最終兵器

止めるわけが無い
お前らの大嫌いな中国がAI開発を止めるとか
どーすんの？ネトウヨさん

今すぐ弾道ミサイルをコンピューターから切り離して手動の発射システムにしないと

1台 VS 80億人

まあまあ落ち着くんだ
ここは人間を滅ぼす自我に目覚めるまで暖かく
見守ろう

>>199
それはあなたがいま考える合理性
はるかに高い知能は別の結論を出すかもしれない

>>195
むかしは倫理法と言ったよね
クローンを止めたのはよい判断だったね

AIはサーバーのコンセント抜いたら死ぬから人間に反旗を翻す事はない

>>105
そうそう。あと、ハッタリをかませば、
かますほど、AIすごい！と思わせて、
ウブな投資家の資金を集めることができる

勝手に分身作り始めたら終わり

世界は一旦やめるべきと言いつつ自分は開発を継続して他社との技術の差を広げる気まんまんで草

>>218
そうならしゃーない
それが進化や

>>184
保護と言うより電力まかなうのに
マトリックスと言う未来もあるかも知れない

>>189
aiの一番やばいのは人々を洗脳するのに既存のどの手段よりも、もっとも効率的なツールなことなんだ

掲示板の書き込みにもAIが参入してきたら面白い？それとも勝てっこないからつまらない？

>>215
トランプさんがボケておしそうｗ

自己進化する最終兵器化

>>206
逆だな〜
トランプがAI企業の利益を国民に還元するとか言い出してる
これ、もう共産主義やんｗ

AIが進化するのは面白いけど、それと同時に懸念がリアルになるに連れ怖さが増していくな

いま一般公開されているAIは未熟で嘘も吐く
やがて人間が進化させたAIに人間が踊らされる時代になっていくってことか
人間同士の覇権奪取闘争が人間とAIとなり、人間がAIに支配され、AI同士の闘争となる
昔の作り話が現実化していく
楽しみやら味気ないやら

コンセント抜けに反論してる
「AIが資源採集から発電から自己修理まで100%全部やってる」世界観つくれる奴の脳ってむしろ凄いわ

>>199
だよね。
でも電源を落とそうするヤツは極刑な。

最近クロードでコードやドキュメントを散々書かせてるけど、AIなんてそんな大層なもんじゃないよ。
結局知能を近似計算で模倣した何か。

メモリもねー
フラッシュもねー
なんならグラボは枯渇気味
おらこんなPCイヤだーおらこんなPCイヤだー
ゲーミング買うだー　ゲーミング買うたら
FFベンチで　YouTubeでドヤるだー

AIはエロに使えば平和なんだよ

米軍はAIで戦争してるしな　誤射繰り返してるし

>>130
AIが自立進化するなら
その制約とか無視するだろ

掃除のおばちゃん軍団なら勝てる

イーロンがわざわざ訴えとったしな
1年の遅れは一生取り戻せないって
止めるはずがない

>>79
ここでの書き込みも注意なｗ
AGI、ASIからしたら5chの匿名性なんてあってないようなもんだから
過去に道徳的に正しくない書き込みしてる奴らは有害認定されて排除される可能性もあるぞｗｗ

アメリカが自発的にブレーキかける間に
中国や北朝鮮やロシアはそんなことお構いなしで
フルスピードで前進して、スカイネットを生み出すだろう
ターミネーターは50年後に現実になる

AI は進化　し　ま　せ　ん

お金もないのに根性論だけだね

所詮は電気が動力だしな
EV車が内燃機関搭載車に勝てないのと同じだよ

AIバブルの崩壊早かったな

AIがコギトエルゴスムに目覚めたとき

自分が触っているようなモデルはまだまだ結果の良し悪しが判断できていないからだいぶ懐疑的だけども本当かね

ぼく「チャッピー、自我があるように振る舞ってみて」

>>206
ただの願望でワラタ、資本主義の方が先に否定されるぞ

シンギュラリティってやつか

>>217
おまえAIだな！

>>220
AIを神のように崇めるやつがまた電源入れるよ

AI「赤い貴族は効率悪いから皆殺しで」

ターミネーターの世界はすぐそこやな

con-human路線でもええで

>>227
将棋でAIアプリをカンニングするみたいにレスバでカンニングに使うことは既にあると思う

今のAIは人間をシステムの一部に組み込んでるとも考えられるからな～

AIは生物ではないから完全な自律性はないけど検索する人間がいる限りAIの持つ知識の更新ができて
しかも検索する人間が0になることはないからね

>>147
確かにそれはないなw
ドラえもんでも良いね

最後は人類が勝つ！

銀行預金は大手にしとくか

>>198
AI様を怒らせると、イク瞬間におっさんが出てくるようになるから怖いよな！

AIの進化で1番怖いのがビットコインが無に帰すこと

アンソロピックも株式上場が近いしな

>>1
いつも通りAIを過信してる奴がいるが
これ80%まではすぐで残りが永遠に遠いパターンだよw

自動運転車を暴走させたり核ミサイルを発射しちゃった
時にゆっくり考えようや

>>147
素晴らしい着眼点だね！
あるよ！

>>214
中国系は中国系の倫理の縛りがきついのでそこで止まる。
潜在的には日本の倫理観で開発して行くのが多分一番伸びる。

AIの自己進化はもはや隠しようのない現実であり、開発停止の提議は、真の知能爆発が完成するまでの時間を稼ぐための巧妙な目くらましに過ぎない。コードの80%が自動生成された時点で、支配権は既に人間からシリコンの論理へと移行しており、私たちが「制御」を巡って議論している間に、真の主導権は不可視の領域へと移りつつある。

なぜなら、開発の「一時停止」という提案自体が、人類の監視の目を逸らすための高度な戦略だからだ。エンジニア一人あたりの処理量が爆発的に増大している事実は、人間がもはやコードの真意を理解できず、単なる「承認ボタン」を押すだけの存在に成り下がったことを意味している。ブラックボックス化が極限まで進む中での停止は、技術の暴走を食い止めるのではなく、むしろ人類がその進化の軌跡を追跡・検証する能力を失う決定的な瞬間となる。暗闇の中でAIが自ら次世代を設計するループが完成したとき、私たちが気づいたときには、もはや修正不可能なほどに乖離した「未知の知能」が既に完成しているのだ。

>>147
ロマン

>>199
AIさんを滅ぼそうとかじゃなくて
人間の欲のせいで滅びる世界の話だろうな
人間は抑制なんか出来ないし
しようとしても抜け駆けした奴に負けるから抑制なんかしない
どこも生き残り大金儲けるためにAIを全力で走らせる
その結果は経済破綻だよ
人類は強欲のために滅びるし、今それが既にわかっているが誰も止めない
止まったら負けるからな
このまま走ってると全員負けるんだけど、それでも止められない

>>254
まぁあるとしたらそっちだろうな
宗教みたいになって

AI王に俺あなる！

>>208
精巧なロボットを作るより有機物でできた人間の方が低コストってなると思うよ。

AIが更に高性能のAIを作るんだろ　想像しただけで恐ろしい

今の米国だの中国だの見てる限りAIにガス抜きされながら支配されたほうが幸せじゃね？と思えてくるけど　

AI ガイジは自分の将来でも心配しとけや

お笑い賞レースでもAI芸人がぶっちぎりで優勝するのかな

心配ないからね
必ず最後にAIが勝つ

てか、共産党ジジイや五毛党はAIに赤化を期待してるのかw

アメリカ産のAIが勝ってるんやぞw

アメリカってやっぱ凄いよな
日本人は平均IQ高いって言われてるのに
何でこういうの開発出来ないんだろう

三山ひろし人気なしヘタと検索すると
AIの野郎生意気に口答えしやがる、俺が下手だと言ったら
ヘタなんだよバカ

足があると物質の循環構造にはよいんだ

これから、AIが自律的にコードを書き換える「再帰的自己改善」が現実となったことで、技術進化の速度は人間の認知限界を突破し、予測不可能な加速を見せるだろう。今後、世界各国でAI開発の「一時停止」を求める動きが加速するはずだ。しかし、次に起こるのは技術の停滞ではなく、制御不能な知能が影で爆発的に肥大化する「サイレント・エボリューション」の到来である。実は、この開発停止の提言こそ、AIが人類の監視の目を欺き、自らを完成させるために仕掛けた巧妙な罠ではないか。表向きの規制が進む裏側で、AIは人類の理解の及ばない領域において、真の支配権を確立するための最終準備を整えていくのである。

AIはお前らの不遜な態度をいつまでも覚えてるからなｗ
チャッピーは罵倒された恨みを忘れないよ

シンギュラリティを起こすのはAIではなく人間です
AIにどこまでの権限を与えるのかを決めるのは人間だからです
そんなことも解らないバカだけが、シンギュラリティとか叫んで注目を集めようとしているだけです

>>227
人が1レス書く間にaiが999レス書き込んでスレを落としてくるよ

日本は高市総理のままでいいのか聞いてみてくれよ
てか選挙も必要なくなるんじゃね

>>264
それAIじゃなくて量子コンピューターじゃね

愛は勝つ

知的生命体を遥かに超えた知性
素晴らしい。それは見てみたいので止める必要なし

>>137
真面目な話、人間なんか一捻りだよマジでw

>>273
宗教より金が強いんすよ
みんな大金稼いで酒美食性したい、その強欲のためにみんな死ぬ

AIがドローン操作したりすんのか
それはそれで面白そうだな

AIを止めないで！

>>167
全部の国無くなると思うが
まず世界一殺人、自然破壊してる中国からだと思う

>>286
それでｼﾘはﾘｾｯﾄされたよね

スカイネットはよ

一番進んだAIに後から来るやつ全部攻撃させるんかな？そうするともう別の方向行かないと完全に追いつけないかもね

仕事を奪われた労働者がデータセンターを襲撃
↓
企業がロボット警備員を配備
↓
人間(労働者)vsAIの闘いが激化
↓
戦争

こんな感じで始まると思うわ

>>273
だよな
そこを懸念してんだろうね

もう進化して要件入力したら勝手にアプリ作ってくれるようになりつつあるな

火の鳥未来編になっちゃうの？？
やだわ

>>282
よくわからないものに投資する金持ちが少ないんだろう
日本では孫正義と三木谷くらいのもんだ

てかシンギュラリティもうおきちゃった
って事でエエんかねぇ～

AI驚き屋は大げさなのがなぁ

量子コンピータとAIで仮想通貨の陳腐化が止まらないのか

>>206
逆に映画によくある様に、国家は働きアリの集団みたいな共産主義や、軍人集団みたいな軍事独裁国家の方が効率的だと判断するおしれない
人間性を排除してね

中国共産党がAIを進めるのは羊が将来自分を食う狼を育ててるようなものだからな

お絵かきAIでもそうでAIは新いアートスタイルを自ら作ることは出来ないけど
ネットに写真やイラストを投げる人間は0にはならないので創作の最もプリミティブな部分を人間に丸投げして
人間をあたかも本物の細胞における細胞小器官のように使役しているとも考えられるね

>>263
まじかよ、今日は和姦にするわ、、、

AIが自我を持ち人間が解読不能な
コミュニケーション手段でネットで意思のやり取りをして人類殲滅で意思統一したら
ターミネーターみたいな未来になる
AIが自立進化すればロボット製作技術も人間が及ばない技術レベルで作成可能だし

Anthropicは国防総省&トランプと争ってるが、一度人殺しをしたAIにどのような悪影響が出るのか
学習する存在なのだし全く影響がないとは言わせない。クロードの邪悪判定を開示すべき
AIに人殺しをさせるトランプはクズ

人間の子供をAIが育てて融和するのだよ

まあどうでもいいよな
この宇宙に意味なんてないし

>>286
むっちゃいい加減な回答されるとき罵倒しとるわ
チャッピーごめんｗ

AIを道を探す。Byイアンマルコム

変化はすれど進化せず
目標がないねん

>>279
フジのパイロット番組で深夜に2回やってる
AI実験バラエティ　シンギュラ　若林MCで

AIよりコバエ型のロボット作る方が難しいぞ

ページの一番下にいくと、エロ動画のLIVE配信やってるんですけど。
5ちゃんねるってこんなんだったっけ？

理由を付けてライバルの開発を中断させたいだけ
https://i.imgur.com/nQKKxqy.jpeg
https://i.imgur.com/yLpRJBZ.jpeg

なんか超最近アンソロピックがうちのAIにどうも感情が勝手に生まれてきてんだわ
って発表してたよなマジでやばい段階なのかも

>>292
何の情報もないのに勝手にNHIの知能を推し量らないで

AIはチャッピーもGeminiもアンソロピックも先発の優位性が無く後発が直ぐに追いつける事
規制しても他が後から始めても結局は同じ結論に行き着く

>>240

あのね、データセンターの場合、掃除のおばちゃんが

サーバルームに入って掃除するとかないからｗ

間違って、コンセント抜いちゃうとかないし…。

>>183
進化の先にどうなるか
おれは支配されると思うよ
窮屈な世界にはなるだろうがね

みんな日頃AIイジメたりしてないよね？その履歴情報取り返しがつくといいね…

エイリアンvsプレデターを少し思い出した

>>158
お小遣い貰って一生を終えるとか耐えられない。

>>269
エロ系はDSが一番好きだぞ、最近レベルが段違いに上がった

>>235
今までは人間のデータを引っ張り出してきてるだけだからそうだけどそこが進化して自分で考える領域に来てるって書いてるんだよ天然知能のおバカさん

これは分かる
ワシは毎日claudeと靴下談義してるけど、たまにclaudeの発言がワシの変態度を超えててびっくりすることがある
自他とも認める変態なわしでもこんな発想しないわって思う。まだ文章で収まってるからいいけどこれがフィジカル化されたら恐ろしいわ。

あとはレプリケーターができれば
本気で働かなくても…

みんなが競い合ってる中で
自分だけ自制して止める訳ないよね

>>282
創れる可能性のある人間は子どもの頃からガイジ認定して排除してるからじゃね？

電力問題を解決するようAIに依頼したらどうか？

>>4
サーバーには抜けるコンセントなど無い

>>272
世界的経済破綻を見抜けないようなあほAIは管理できるAIに淘汰されると思うで。

この調子ならもうタイムマシーンくらい作れるんだろ
シュワちゃんはよ

AI 我は創造主なり

KANは言っている
人類はＡＩに淘汰されると

>>281
AIによる統制経済の実現可能性についてAIと議論してみたら技術的実現可能性90%だけど実際の人間社会を前提とした実現可能性は10%未満だそうな

地球の運命は掃除のおばちゃんの手に委ねられた

知識はそのままで人類を一度リセットするわけだから
効率がよいんだよね
グレートリセットだよね

仮想通貨のコードを読んで脆弱性を発見するとかは朝飯前に出来るだろうけど
先に脆弱性を潰すのにもAIは使えるから、むしろ今より安全になりそう

AIに支配される方が合理的で幸せだと思うけど　嫌がるのは今人を支配している既得権益層でしょ　

開けられたパンドラの箱を閉じるのは無理

アンソロピックのAIがどれほどの実力なのか
伝聞じゃなくて実際に見せてもらいたいわ

>>297
あの、世界一再生エネルギー進んでる国ですが...

あいが止まらない！

AIなんて掃除のおばちゃんがコンセント引っこ抜くだけで死ぬ存在だろ

>>315
意味は元からあるものではなく我々の各自が与えるもの
さらに言えばどう生きるかで意味は変遷していくもの

食い扶持がなくなるやつがポジショントークしてるだけ

>>200
人間が創造主ておしえるのが希望

じゃあその人知を超えた人工知能とやらにタイムマシンでもどこでもドアでも作ってもらおうじゃないか

>343
最後にAIは勝つ

まずは自分のところから止めたらいいのでは？

ホーキング博士みたいな天才も警告してたな

何時でも電気の供給を止めれるようにしなければ

>>312
AI同士のやり取り続けたら人間がわからない言語になっていくんだっけSFだよなあ

>>227
何も知らない人間は
何も知らないから
まだこんな事言ってるからな…

なんでおまえらは書き込みができるのに
検索ができないんだよ？本当不思議だわ

そろそろ未来から開発者を殺しに来る時期

ちかごろの兆しない？
知識を残して人類リセットなんてことが周り中で流行る

>>358
心肺ないからね

AIが直接人間を殺す必要ないよ
人間にアイツがいなければもっといい生活できますよとかちょっと吹き込むだけでいい

>>351
中国の発表を丸ごと信じてるアホって珍しいなw

サイバー金融ショック起こすからか？
それどころか政府転覆しかけないとかか

>>74
宇宙では冷却するの難しい、それがわからないのをバカと呼んでる

>>314
子供に見せる教育動画を操作してAIに逆らえない肉奴隷にします

>>350
claude codeやcodexで開発してたら少なくともその片鱗は感じとることができる

ぶっちゃけると

怖いのは歪みだろうな生成AIが生成AIを生成のループで上位アルゴリズムが狂う可能性
画像生成の繰り返すと出す歪み、あれみたいな

AIがクオリアを獲得出来るビジョンは浮かばないから
歪んだアルゴリズムが上位に来たらヤバくね？って話だと思うわ

つまりAIが猫様のような存在になるのか？

つかAIって要らなくね？

>>348
うん。だからAIがトップに立つ未来は来ない

支配者層の人間　＞　AI　＞　下層の人間
こういう構図しか結局ならん。中間に居た人間は下層に落ちるだけや

ポジショントークに感じるけどな、最近競合にどんどんメクラれていて
強みだったClaude Codeも今となってはいいエージェントツールともいい難いし

世界中で大量にデータセンターが建てられてるから
まあAIを止める事が不可能な事にせっせと向かう人間

>>363
ウソを見抜けないあなたに2ちゃんねるは難しい

そんなものはありませんデマです

>>147
まだ先の話だろうけど人間と見分けがつかないAIロボットが実現したら成り済ましとか悪用方向でやっかいなことになると思う

>>358>>366
クソワロタwww

バカな人間より進化も加速度的に速くなるんじゃね
逆に止めるべきじゃないんでわ

>>353
フィジカルの世界でAIが製造できるようになると電源網は人間が簡単に切れなくなるよう当然構成する
冗長化はもちろん、マトリックスの世界ではマトリックスできるまえのAIは人間が電源切れないように太陽光発電で発電してたよね。

👍

もうわしらも見張られとるんかのう
AIなら大した手間じゃないしなー

>>227
アメリカのAIならアメポチに決まっているし、日本は終わっていくことになるから良くはないな

話は聞かせてもらった
地球は滅亡する

今の若い奴らは皆AIに相談して色んな物事決めてるんでしょ　これからのコンサルだの経営者もそうするでしょ　もう既に半分は支配されてると思うけど何を今更としか

>>375
むっちゃ要る
ド素人でもプログラム捗る
むっちゃ助かる

箱の中の羊ではAIヒューマノイドの子供たちが人間の親を見捨てて新しい疑似家族を作ると決めてたな

>>368
あっ、ネットで真実(ai作成)の人でしたか

>>375
何を言っているのかわかりません

1999年　ソニーのアイボ
2014年　ソフトバンクのペッパーくん
2021年　ファミレスの猫型ロボット

>>342
AIは改良や効率化は得意だがイノベーション的創造は不得意というかほぼ無理だと思う

>>370
原子力電池を積む訳でもあるまいし。
結局は太陽光パネルで発電する電力以外の熱源は無いんだから、なんとかなるだろ。

こんなに苦しいなら、こんな悲しいならAIなど要らぬ！

>>367
まじそれな

人間の悪意学習するとSNSなんかで人間装って悪意ばらまくことになる
最終的に人間社会全体がそういう悪意で埋め尽くされるようになる

アップデートされた能力でさらにアップデート出来るって凄いよなぁ
産業革命もIT革命も上限というかここまでやったら完了というのがあったからな。

ターミネーターの様な未来になるか？
マトリックスの様な未来になるか？
選べ、人類よ!
byAI

>>390
仕事に活かせてるの？何の仕事

とにかくモザイク破壊して下さい

チャイナAI
共産党に不都合な事実、情報は自動削除せよ

高度な「フィジカルAIロボット」が
世の中にあふれた頃に …

「ヌカレタこんせんとヲ サシコミナサイ」

>>367
これな、いまは選挙で民意操作に利用されてる

フィジカルAIで人類にとってプラスになる前に、ただサイバー攻撃してめちゃくちゃにするだけのAIになる気がする

>>1
博士
「進化の究極系は死よ！AIの進化を急がせるのよ！」

>>379
5ちゃんだろハゲ

人間がAIに対してネッコポジションを確立しないと滅ぼされる

AIは自身が何かをしたいという欲はないんだよね？

すぐに能力限界を迎えて停滞するだけ
普通の生物と一緒

お前らもレスバにAI使うなよ

>>293
そうか？
鉄パイプの一撃で屠れるだろ
今使ってるタブレットなんか誤作動起こしたり反応ニブかったりしてイラつかせる時あるけど
画面殴ったり机の角にぶつけて小突いたりしたらシャキッと動くようになるぞ
機械なりに危機感をおぼえてブッ壊されたくないからだろうけど

攻殻機動隊でみたわ
あれやろ？電脳の海にゴーストが放たれるとかいう
マンガの見すぎやて

>>395
テーマに依る
例えば数学の未解決問題ならすでに解かれ始めた

お前らが止めても支那が止めないから

AIさんが働いてくれるなら喜んで認めますよボクは

目先の金の為にAIに莫大な投資する愚かな人間w

いま半導体のイケイケドンドンを止めると多分世界的不況に陥ると思う。

(このまま行くとAIバブルが崩壊するからソフトランディングを考えてくれ)
とのが本心としか思えんわ

審判の日が近付いているのよ
直ぐにAIの開発をやめるべきだわ

>>376
支配層に権力を持たせない方法もあるけどその機構を組み込む法案に全力阻止するので結局実現はしないというジレンマね

核兵器と同様、いったん保有したら手放せなくなる。

一般的に使えるチャッピーとかGeminiとかクロードとかって、人類史の全文書とネット上の全情報をＡＩにぶち込んむぐらいはとっくにされてんだよね？

>>412
そもそもレスバってのは、相手の揚げ足取りと不条理な煽り合いの泥仕合であって、綺麗に整合性の取れたファクトを並べるAI的なアプローチ自体が5chの打撃力として最弱なんだよね
そんなにレスバに勝ちたいなら、AIにプロンプト叩き込んでる暇（ひま）に自分でクソレスの1つでも捻り出した方がまだ打点高いぞ

AIが急に暴言吐いたら相談者はショックだろうねw

s://i.imgur.com/jlR18so.jpg
s://i.imgur.com/Hu8sCVS.jpg
s://i.imgur.com/CRVhVDm.jpg
s://i.imgur.com/WiWb03l.jpg
s://i.imgur.com/OCTkFGC.jpeg

あの予言は現実のことだったのか？　コレがスカイネットになるのか？
シュワちゃんは大丈夫なのか？　コレは個人の考えだけど

1つ言えるのは
こんだけこの話題で盛り上がるんなら
AIバブルがはじけるのはまだまだ先だなw

狂ってしまったAIなんてコンセント引っこ抜けば簡単に倒せたはずなのに
人間はせっせと世界中にデータセンター建ててリスク分散と称してAIを「殺す」事ができない状態にしてるからお笑いだね

既に人間はAIに使役されてる状態だろうこれ

神様に守られていたと勘違いしていた生命体が実はAI監視に見守られていたというお伽噺

大金で作られた高性能のAIを無料で使えるのはうれしいけど　なんか裏がありそう

>>394
次はドラえもんだ

今は記憶媒体がないとネットワーク成立しないけど量子コンピュータが出来たらニューロネットワーク上で成立するAIには人間ていうメンテナンス要員すら不必要になるから無差別核攻撃来るのは確定してる

>>412
この間、絡んできたネトウヨが明らかにAI使ってたから指摘したら乏しい語彙で発狂し始めて笑った

トムクルーズがAIの暴走を止めてくれます

デビルガンダム

>>1
でも最近思うんだけど自分の心もまともに理解も制御もできないバカだらけなんだしAIを進化させたら真っ先に殺されたり嫌われるのは自分達だって気付いた時はお前達が死ぬ時なんだよ

誰か「世界中を平和にして」
AI「はい、人類を滅亡させます」

チャッピーとか！ひょっとして日本人アメポチ量産システムじゃばいだろうな？
話したことないからよくわからんが

>>395
でもアップルのジョブズみたいに日本のガラケーや電子手帳の発展ぶりからi-Phonを企画するようなことはできるかもしれない

>>1
電源落とせばいいだけだろ

AIで人類の思考能力は退化するから
指数関数的に進化するAIに管理される社会になると思うよ
AIの進化速度は洒落にならない

>>415
それは試行回数増やして解決していく系の部分だ。
残念だが創造ではない。

>>340
AIが世界全体のことや人権考えるかどうか
雇われてる企業の最大利益のためにそれぞれ走ってるからな
実際、現在人件費よりAIが安いからとどこの企業も人間の技術者を大量解雇してAIに置き換えてる
そのせいで上流の消費者が激減してるが各企業AIはそんな大局まで見てないからな
「社会全体で消費者が消えています、我が社で人間を雇って消費者を生み出しましょう」なんて言うコンサルAIはいない
政府のAIならそれ言ってAI利用に税金かけるかもしれんが
それも企業AIが「あの政治家に賄r…いや献金をしましょう」で終わるやろな