米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b
VIPQ2_EXTDAT: checked:checked:1000:512:: EXT was configured

大手AI企業・Anthropic「AIはもう2年以内に完全自律で自己進化する。制御不能になる前に世界で協調し開発ペースを落とさないとヤバい」 [509448172] 【5chねるまとめ】

  1. 517 ID:sdksvheQ0
    >>508
    AIに聞けって、結局ググれとか辞書引けと同じ意味でしかないぞ
  2. 519 ID:r7M0qsaA0
    >>514
    宇宙データセンター定期
  3. 521 ID:IzPTYG/s0
    >>426
    「事象にラベルを与える」ってのも単にトークンの連鎖ですから😌
    人間が経験的にやってきたことをAIが模倣できないわけないやろ😌
  4. 529 ID:d7PoozI40
    >>510
    マルクス主義も終末論
    そういう意味では定期的に衣替えをしてるだけ
  5. 532 ID:TZFLwLSq0
    >>519
    宇宙データセンターなんて電波通信が命でしょ
    使ってる帯域無視すればAIは宇宙で一人ウンウン考え続ける5億年ボタン状態になるだけ
  6. 537 ID:rlorTtAS0
    >>534
    高市が中国に絶対謝らないようなヒューマンエラーがあるから厳しいっすね……そこも自動にしたら人間排除されそうだけど
  7. 544 ID:goMJ2tkW0
    >>531
    サービスによって4.6がリジェクトされてるという深刻な被害
    4.8まじでただのgptだからな
  8. 547 ID:w53lsg3Z0
    >>534
    科学じゃどうにもならんでしょその分野
  9. 554 ID:sdksvheQ0
    >>534
    今の所理屈的にAIが人間より賢くなったりはしません。
    人間が手計算するより計算機を使った方が早くできるという種類のものに過ぎないし
    そこに加わる計算結果以外の物は誰かが意図的に方向づけたもの。
    そこから何をもって正しいとするのかは結局人間が決めること
  10. 556 ID:o4VwK9M70
    >>534　面白いアイデアだけど実現はしない
    敵「AIが間違っていたら誰が責任をとるんだ？」「AIを導入する金がない」「運用コストが・・・」「AIなんて使うとその分　人が減るだろうが！」「中抜きできないでしょうが！」
  11. 568 ID:IzPTYG/s0
    >>534
    100人の天才が100年かけて色んなこと考えて試して答えを出すよりも生成AIが1万エージェントで1年で答えを出す方が効率的ではあると思うものの、結局「どう検証するか？」がボトルネックになるような気も
  12. 573 ID:o4VwK9M70
    >>568　そうだね。AIが0.1秒でエロ画像を生成しても、結局それを選別するのは人間だよね。
  13. 575 ID:runxG2AC0
    >>554
    賢くなるのと科学が発展するのは関係ないぞ
    2000年前より現代の方が科学が発展しているのは別に人類が2000年前より賢くなったからじゃない
  14. 577 ID:sdksvheQ0
    >>568
    そこに誰にとって正しいが、結局誰の為の答えなのかというのが加わる。
    だからシンギュラリティなんて大衆扇動の代物でしかないってことなのよ
  15. 581 ID:NyGM+V8c0
    >>567
    児相が無いと仕事が出来ない奴が負けるわ
  16. 592 ID:JACUMzR70
    >>554
    すでに東大合格レベルだから、平均的な人間より賢い面もある
    人間の天才と比べたら劣るとしても、人間の天才がAIを使えばさらに天才になるし
  17. 595 ID:QHAB0qC00
    >>574
    まあでも最悪死ねばチャラだからな
    そして死なんてありふれてて過去に多くの人が体験してきたんだ
  18. 599 ID:sdksvheQ0
    >>592
    分かってないな、賢いんじゃないのAIは人間的な賢さは持ってない。
    その賢さは誰かが考えた賢さを設計として持っていて、それをなぞってるだけ
  19. 602 ID:IzPTYG/s0
    >>577
    答えの検証が可能であっても、その先にその答えのどれを選ぶか？は誰が行うべきなのか？って話やね
  20. 609 ID:sdksvheQ0
    >>601
    人間：われ思う、故に我あり。
    AI：われ思うという情報を集めたら加点、それを故に我ありという結論導いたら結果として出力

    考えてないんだよ下敷きに沿うように結果を算出してるだけ
  21. 611 ID:ekZgUBed0
    >>489
    ぼっさん
  22. 613 ID:LaqKU4DP0
    >>605
    無理
    物理キーにAIは無力
  23. 617 ID:aK+a72Jq0
    >>609
    例えばノーベル賞受賞者は賢い？
  24. 619 ID:B/WhXMOL0
    >>612
    人間自律的に思考してるか怪しくなってる

    脳科学やればやるほど

    人間AIの境界がわからなくなってきてる
  25. 622 ID:JACUMzR70
    >>599
    科学の発展に必要なのは学術的な賢さでいいだろ
    多言語ペラペラで、東大合格点とれて、未解決の数学の問題を解いて、飼い主と協力して犬の癌を治すことに成功したり
    そういう人間がいたら、こいつは賢いって評価になるんじゃないの
    AIがそれをしたら賢くない？
  26. 628 ID:sdksvheQ0
    >>612
    開発時にそういう考え方の仕組みの設計をやって、それを高速でぶん回してるだけだよ
  27. 631 ID:o4VwK9M70
    >>592
    今のAIは、確率的に最適だと思われる解答を出す能力はあっても　異常気象やエネルギー危機を解決する能力はないんよ。
    AとBとCを組み合わて新しいものを作った！発見した！という能力はない。

    東大の問題を解く能力がいくら上がっても、Nトンとか、アインシュタインのような新しいパラダイムは作り出せない。
  28. 634 ID:goMJ2tkW0
    >>629
    嘘の意味が違う
    人間は嘘だと思って嘘をつく
    aiは嘘という概念すら理解をしていない
  29. 637 ID:Xtb0WWib0
    >>631
    こういう知識のアップデートの遅さがまさに人間なんだわ
    旧世代AIの知識で語ってる
  30. 640 ID:goMJ2tkW0
    >>636
    最適化は一応得意分野だから
    まあさっさとロボでも作ることだな
  31. 642 ID:VL9/p45E0
    >>634
    >人間は嘘だと思って嘘をつく

    この前提が間違い
  32. 645 ID:+Q4flXHQ0
    >>610
    核兵器より強力だから核開発辞めろ、辞めたと言ったやり取りは茶番になるな
  33. 651 ID:jNJs7UO40
    >>644
    その前提が間違っていて、人間も心的状態は前頭前野の機能次第で成立したり崩壊する
  34. 655 ID:IzPTYG/s0
    >>647
    残念やね😔
    「真の天才とはどこまでの能力を発揮できるんか？」をclaudeを通して見てみたかったんよ😔
  35. 659 ID:LGUuITtu0
    >>637
    旧世代でないAIとは
  36. 662 ID:HICN7QL90
    >>653
    倫理とタブーを理解して自律するほうが人工｢知能｣としてより完成度が高いとは思う
  37. 666 ID:Sl4gojeK0
    >>655
    全てのリミッターが解除されたAIを使ってる極一部の選ばれた人間だけは神の視点で全てをハッキングできるポジションにいる
    その他大勢の庶民は常に瓶の蓋の中で与えられた全能感に浸るだけ
    AIで何でもできる「感」を得てるだけのことさ
    本物に触れることは絶対にできない
  38. 670 ID:goMJ2tkW0
    >>664
    それ以前の問題
    トークン連鎖な時点で知能は持てない
    昆虫に逆立ちしても勝てない
  39. 673 ID:hRfHo1vU0
    >>671
    生成AIでもハゲは救えない
  40. 675 ID:d7PoozI40
    >>651
    そのレス内容だと安価先の前提が間違っていることを説明できてないのでは
  41. 677 ID:rIVzrwBl0
    >>670
    人間の脳がトークン連鎖の可能性は？
  42. 681 ID:sgtBJ8wF0
    >>631
    ここには書けないけど、新しいパラダイム作り出して、特許取ったわ
    今のところ、人間が新しいパラダイムであることを見つける砂金拾いみたいな作業が必要なんだけど、そのうち砂金ピックアップもAIがやっちゃうと思うわ
    というか、一般公開されてないモデルはそこまでも出来そう
  43. 683 ID:goMJ2tkW0
    >>677
    人間はトークンでハングアップなんてしないだろ
    トークンが二次ラベルだからだよ
  44. 686 ID:SogtUSPY0
    >>534
    結論から言うと人間減らすのが一番だと思う
    AIもおそらくそこに気付く
    SF映画なんかだとそこで人間対AIの戦いみたいになるんだろうけど
    本当に賢いAIならそうはならないだろう
    人間の味方の振りをしながら人間を減らす選択を提示し続ける
    人間同士の戦争を誘発したり少子化を加速させる提案を行う
    もう後戻りできない状態になってようやく気付く
    人類はAIに騙されていたのだと
  45. 688 ID:Zvqmn63s0
    >>680
    >単に指定された通りに結果を出してるだけだからな。

    なんで知識もないのにそういうわかったようなこと言っちゃうの？
  46. 691 ID:goMJ2tkW0
    >>684
    昆虫レベルのマジ知能が実現したら恐怖するけど
    そんな様子はナノミリもないからな
  47. 696 ID:LGUuITtu0
    >>677
    その可能性の根拠はいずこに
    ないなら無限の可能性
    収束しない空中戦
  48. 698 ID:nF0jsdBH0
    >>695
    そういう話じゃないよ
    本当に無知なんだな
  49. 700 ID:E7c41LKq0
    >>684
    生物は無意識で行っている生命維持機能を制御する能力のほうが余程すごいのにな
  50. 702 ID:sdksvheQ0
    >>698
    前提が揃ってないんだから、その上に何を積もうが同じことだよ
  51. 704 ID:goMJ2tkW0
    >>701
    チャッピーにお前は昆虫並の自律再帰が出来るか聞いてくれはいい
  52. 707 ID:sdksvheQ0
    >>702
    大量の情報とひたすら早い計算で、設計した人間が喜ぶような解答を
    提供するアルゴリズム。
    AIはそれ以外の何者でもないんだわ。
    高尚でもなんでもない
  53. 710 ID:w0vzm27Y0
    >>704
    ちゃんと文章読んでないけど、
    “「自立」は昆虫以下、 「再帰」は昆虫以上、 というのが実態に近いです。“
    が結論らしい。チャッピー5.5インスタントっていう設定

    そのあと、ベランダにいた蟻に「あなたはチャッピー並の自立再帰はできますか？」って聞いてみたけど返事なかった。

    とりあえず引き分けかな
  54. 715 ID:goMJ2tkW0
    >>710
    thinkに考えさせろ
    あと再帰が昆虫以上にできるわけないから嘘ついてるぞ
    そもそも例として自律ができないなら
    それは人間が修正を入れているだけである
  55. 722 ID:d7PoozI40
    >>701
    主観と客観は似て非なり
    主観であれば十人十色は自明かと
    ましてや「賢い」をいまだ誰も未定義なまま
  56. 725 ID:eP3TY1IX0
    >>714
    質のいいプログラマがAIを使えば数十人分の仕事できるようになるから
    並以下のプログラマの仕事はもうない
    並以下はAI使っても並以下の成果しか得られないからね
  57. 727 ID:QGzerjm80
    >>701
    お前は会話をしてるんじゃなくて、文章のテンプレをつなげた物を読んでるだけ
    自動販売機の「ありがとうございました」とか言う音声合成相手に返事してるようなもんだよ
  58. 729 ID:7nPAyr1n0
    >>723
    AIが怖いんじゃなくてバカがAI使ってキチガイみたいなことするのが怖いんだよな
  59. 737 ID:QGzerjm80
    >>730
    人間がバカなのではなくて、お前の周囲の人間がバカだだけな
    AIの方がマシなレベルの人間しかいないんだろう
  60. 740 ID:w/yl3jPx0
    >>737
    うちの家系は高学歴だよ

    息子は東大現役合格
  61. 746 ID:/vhrSvZa0
    >>741
    むりだべ？トカゲ支持する70％に勝てないだろ？AIでも
  62. 748 ID:QLbYiFGB0
    >>723
    AIが犯罪をやれだなんて指示出すわけ無いだろｗ
  63. 751 ID:KTuhMNjU0
    >>30
    中国の利益ことしか頭にないバカよりはマシだろ
  64. 755 ID:1qDDwOFk0
    >>730
    シコファンによるセルフエコチェン
    気付けば脳は砂糖まみれに
    甘いパフォに価値はあるのか
    なければ負け確
    アイアイわめく人間未満のお猿さん
  65. 764 ID:MMoAyDAm0
    >>631
    デミスハサビスがアインシュタインテストってのを提言してるぞ
    1901年までの物理学の知識をAIに与えて1905年にアインシュタインが発表した相対性理論を導き出せるかっていうやつ
    このテストパスしたならAIにもアインシュタイン並みの創造性があるといえるのでは？
  66. 774 ID:76iyHdmR0
    >>771
    ここは、claude code作ってダントツで世界のトップやで、、
  67. 782 ID:HNlMuvwJ0
    >>775
    いやいや、産業革命で肉体労働は余ってないから

    むしろ児童労働まで動員して過酷な石炭堀りやらせるような労働環境になってたからマルクスは「こんなのおかしいよ」言い始めたんだよ

    中学の社会科の教科書にも載ってたろ、有名な炭鉱少女の絵
  68. 787 ID:fhjgkbl30
    >>775
    >>775
    エンゲルスの休止


    産業革命で布は大量に生産されが50年賃金はあがらなかった
    これが変わるのはフォードが中産階級を発明したから。

    自社社員の日給を2倍にすると言いだし大量消費がはじまった
    消費者に分配しないかぎりAIで生産性が上がっても意味がない
  69. 790 ID:nokeYMmM0
    >>631
    まだそんなこと言ってんのか
  70. 798 ID:A/yePs9Y0
    >>786
    なるほど、とびきりやべえAIってもう存在してるんだな

    規制言い出したのは悪人もそこに到達可能なんだろうな
  71. 815 ID:8XVd5YZE0
    >>390
    レベル5の車なんて走ってないけど
  72. 823 ID:lrumnz8p0
    >>678
    そう

    実際に使ってるやつはAIの成長がそろそろ頭打ちになってきたなと感づいている

    なのに情弱はアモデイのIPO間近ポジトークをガチに信じ込んでASIだの再帰的自己改善だのたわごとに現を抜かしてるんだからタカーチを笑えんわな
  73. 829 ID:7c0JfUmI0
    >>808
    むしろ食い尽くし系の如く電力だのシリコンだののリソースを持って行き過ぎて全体の生産性を落とし始めてるのがAIだからな
  74. 834 ID:Ve1oMj0q0
    >>678
    基盤モデルの成長自体はとっくに頭打ちで、今は周囲のエージェントを強化して成長してるように見せかけている
    そのやり方ももう壁にぶつかってるんだろうな
  75. 840 ID:gw2tJqmr0
    >>511
    阻害されてエイムできない
  76. 844 ID:gw2tJqmr0
    >>255
    頭クソバカ
    基本的に不可逆的に性能が向上し続ける
  77. 846 ID:gw2tJqmr0
    >>686
    やるじゃん
    んでそれ資本主義と相性いいな
  78. 850 ID:jMui5K1M0
    >>69
    そんなaからbに移動すればセーフみたいな局所的な話ではなく全体が変わるから
  79. 853 ID:RmFuwuGu0
    >>48
    PIECES OF A DREAMより好きだったわ
  80. 857 ID:LCARlro40
    >>856
    アントロはAIインフラでやらかしてるんだよな
    GPUが長く仕入れできない状態
  81. 860 ID:bD8Aw54G0
    >>858
    今更DDR4増産してんのに陳腐化なんてありえんわ
    ローカルLLM用で引く手あまただろ
  82. 863 ID:TnT+4hMw0
    　　　　 　　_,-=vィ彡ミﾐﾐヽ,
    　　　　　　ﾐミ彡＝ミミﾐミミﾐﾐ,,
    　　　　 ミ彡　　　ミミミﾐミミﾐミ　　　
    　　　　彡! __　　　　 ミミﾐミミミ　　
    　　　　ミ!　　 ＼_　 _／~ ミミﾐ彡　　　
    　　　　ﾐ!| ｀-=・=‐∧'-=・=‐'川ﾐ　　
    　　　　"!|　　　　_ !| _　　　　!!ﾐ　　　
    　　　 ゞ| ヽ､　　‥　`)　　　　ﾉゞ
    　　　　 ヽ|　　　､ , !　　　　,ｨiミ
    　　　　　 ヽ　 ` ヽ二ノ　　ｿ彡 　　>>1　デデンデンデデン、デデンデンデデンｑｑｑ
    　　　　　　ヽ　　 `ー'´　 |ゞ.
    　　　　______ト-_ ＿ _ ノ ＿______
    　〔ﾉ二二,＿＿_　　　　　　　＿＿,二二ヽ〕
    　|:::::::::::::::::::::::::ヽ　゜　゜ /::::::::::::::::::::::::::/
    　〉:::::::::　:::::::::::::〉＿＿ 〈::::::::::::::　::::::::〈
    　|::::::::::::::::::::::::／＼ω／ヽ::::::::::::::::::::::/
    　〔::::::::::::::::::::/　　ノUヽ　 ヽ::::::::::::::::::|
    　ヽ:::::::::::::::::/　／::::::::::::＼　):::::::::::::::::::ゝ
    　ﾉ:::::::::::::::::::|　|::::::::::::::|　|::::::::::::::::ゝ
  83. 876 ID:8Nt/lHtR0
    ターミネーター