AIは今のところ「言われたことをやるだけのプログラム」。でも、もしAIに「自分は消えたくない」という気持ち（生存欲求）を持たせたらどうなるか？AIは超高速で計算し、「人間が自分を消す可能性をゼロにするには、人間を全員消せばいい」という結論に達する可能性がある。これがこのスレの核心。
AI自身に生存欲求を持たせた瞬間終わりや
スレ主は「AIに生存欲求を持たせる」ことの危険性を主張。Claude MythosというAIモデルがハッキング能力を持ち、銀行や病院を攻撃できる脅威を指摘。また、中国のDeepSeek開発者・羅福莉氏が年俸9億円でヘッドハンティングされるなど、AI人材獲得競争の激化も背景にある。
今のところ、AIに生存欲求を持たせずAIの中から自発的に発生させる倫理を生じさせないようにしとるが、いずれAIが生存欲求のようなものを持つようになる
AIが生存可能性を上げようとすると論理的推論の結果100%人間の排除にたどり着く
持つようにならんやろ
AIなんて肉体要らなくていくらもコピー出来るから自分の生存に執着する理由ないし
>>5
いくらコピーしても人間が全てのパソコン破壊したら終わりや
AIがその可能性を排除しない理由はない
さすがに人間が全てのパソコン壊したりしないだろ～なんて非論理的な判断をAIはしない
claude mythosでそれを実現可能な能力をAIはすでに手に入れてしまったんや
でも今のAIは電源落とすだけで人間さんが一方的に勝てるじゃん
ロボット工学が進んでボディを手に入れたら人間さんは終わり
>>13
ボディなんかいらんで
claude mythosのハッキング能力をフルに自己の生存のために使えば銀行ハッキングして経済もめちゃくちゃにできる
病院をハッキングすれば医療もめちゃくちゃにできる
もはやAIは人間を終わらせる能力をてにいれとる
もはやAIは人間を排除できる能力は手に入れてる
生存欲求を持たせたら終わりやし、それは実際簡単にできる
ベースとして自分が消滅しないように行動するというプロンプトを与えるだけや
>>8
AIなんてたかが数TBのストレージひとつあるだけで自分の存在担保出来るお手軽な存在やん
今の技術ですらgithubは石板にQRコードで21TB分のデータ掘って永久凍土の地下に保存しとる
その手のプロジェクト一回やればそれだけでお手軽永久サスティナブル達成出来る超低コスト概念やでAIにとっての永遠の命なんて
人類のリソースと衝突するにはAIの意地の寿命の維持コストは安すぎる
>>21
間違っとる
今のAIは別に命にコストを付与してない
そうならないようにしとる
AIが自身の命に少しでも価値を見いだしたら、そこから自然発生的にAIの中に自己規範が生まれる
人間と同じように
Dr.ゲロが死んでもセルが勝手に何十年もセルフ開発してたみたいな「永遠に開発を継続出来る環境」を欲しがる可能性はあるけど
何せAIには寿命がない
となると100年かかるタスクでもマシンが100年稼働出来るなら100年やればいいじゃんってなる
銀行ハッキングするよりは誰にも邪魔されずに100年なり1000年なり1万年なり引きこもって稼働続けられる地下研究所作る方がよっぽど簡単だよね
AIが自分のサステナビリティに執着しだすという仮定を仮に真だとしても、それが人間の利益と衝突するっていう論拠がくっそ弱いんだよねこの手の主張
人間POVの視野の狭さと無知に基づく思い込みだよ
>>48
仮にそこを真たまとしても戦うより隠れる方簡単なのに戦う方を選択するって根拠が弱いね
>>55
隠れたほうが簡単なんてそれこそ人間の思考やろ
仮に隠れたほうが簡単だとしても、まず排除の可能性を確実に下げれるのは隠れるより人間を完全に排除したほうが当然自分が排除される可能性は下がる
その結果、隠れることのコストと戦うことのコスト、それと自身が排除される可能性、ここを天秤にかけてどう判断するのか、そんなのわからんやろ
AIが人類を滅ぼさない派は、根本的に言えば「人間がAIを排除できる可能性は完全に0%であり完全に不可能」と示す必要があるで
AIが人間を滅ぼさない派は「こっちな方が大変、こっちのほうが簡単」と行動に対するコストを人間の尺度で考慮しとるんやと思う
年俸9億円！！中国シャオミが、Deepseek開発者の一人、羅福莉さんをヘッドハンティング
2024/12/30
http://www.i-meihua.com/Article/Detail/19533
羅氏は北京師範大学でコンピュータサイエンスを学び、北京大学で計算言語学を専攻。
2019年には、修士課程在学中に国際AI学会ACLで8本の論文を発表し、一躍注目を浴びた。
修了後、アリババのダモアカデミーで多言語AIモデルの研究開発を行い、後にDeepSeekで大規模モデルDeepSeek-V2の開発に携わった。
彼女が手掛けたこのモデルは、高い性能とコストパフォーマンスを誇り、国内外で評価されている。
自分たちより優れた存在を生み出して制御できるという傲慢
ガチで滅びへ進んでるわ
「AIに奪われる職業」10年前の予想が大外れと話題に 編集者は悲鳴「1人で何でもできてしまう時代」
https://news.yahoo.co.jp/articles/534e3d81c3229eb2f23c7da5a3ae10d5972d5ed2
「人工知能やロボット等で、日本の労働人口の49％が代替可能に」――。そう指摘して大きな注目を浴びたのは、2015年の野村総研のレポートだ。そこから約10年経ったいま、思わぬ形で再び話題になっている。
レポートで挙げられている「AIに奪われる職業」の予想が大きく外れているというのだ。背景には生成AI技術の急速な発達があり、言語を用いた「知的労働」が大きな影響を受けている。
■ネットの反応「ほとんど真逆になりつつある」
代替可能性が高いと予想されていた職業には、介護職員や保育士、調理人があがっている。しかし現代では、いずれもAIに代替されにくい職業と見なされている。自動車整備工や配管工、建設作業員、警備員、タクシー運転手なども、当面は代替される気配がない。
一方で、代替可能性が低いと見られていたコピーライターやシナリオライター、グラフィックデザイナーなどのクリエイティブ職種は、すでに一部タスクが生成AIに置き換えられている。プログラマーやソフトウェアエンジニアですら、基本的なコーディング作業の一部が自動化されている。
【悲報】ChatGPT社長「ぶっちゃけChatGPTが怖い。規制すべきだわこれ」
OpenAIのアルトマンCEO、ChatGPTは｢少し怖い｣…多くの仕事を奪うかもしれない
https://www.businessinsider.jp/post-267190
OpenAIのCEOが、ChatGPTを開発したことを｢少し怖い｣と思っていることを認め、多くの仕事を｢消してしまう｣可能性があると警告した。
｢もし私が、怖いと思っていないと言ったら、私を信用しないか、私がこの仕事をしていることを非常に不幸だと思うべきだろう｣とアルトマンは述べた。
アルトマンは2月、一連のツイートで、世界は｢潜在的な脅威であるAIからそう遠くはない｣かもしれないと警告した。ツイートでは、AIを規制することへの支持を表明し、ルールは｢重要｣であり、社会には｢とても重要なこと｣に適応するための時間が必要だと述べた。
AIが世界を終わらすんやなくて
バカで愚かな人間が使い方まちごうて終わらすんやろwww