【AI】人工知能が人類滅亡を招く恐れ　専門家やテック企業トップが警告

https://ichef.bbci.co.uk/news/800/cpsprodpb/6B80/production/_129902572_gettyimages-1257740282.jpg
米オープンAIのサム・アルトマンCEOが演説したイベント会場の前で、「これは滅亡のリスクだ」というプラカードを掲げる抗議者

■人工知能（AI）が人類滅亡を招く恐れがあると、専門家らが警告を発している。

ウェブサイト「センター・オブ・AIセーフティー」に掲載されたAIのリスクについての声明文には、「チャットGPT」を開発したオープンAIのサム・アルトマン最高経営責任者（CEO）、グーグル・ディープマインドのデミス・ハッサビスCEO、アンソロピックのダリオ・アモデイCEOといった、テクノロジー企業のトップも署名している。

声明は、「パンデミックや核戦争といった社会規模のリスクと同様、AIによる絶滅のリスクを低減することを世界的な優先事項とするべきだ」と呼びかけている。

一方で、こうした懸念は大げさだという意見もある。

（中略）

人間を超えた知能を持つ「スーパーインテリジェンス（超知能）」AIによるリスクを以前から指摘していたジェフリー・ヒントン博士や、モントリオール大学のヨシュア・ベンジオ教授（コンピューター科学）も、この声明を支持している。

ヒントン博士とベンジオ教授、そして米ニューヨーク大学のヤン・ルカン教授は、この領域の先駆者として「AIの父」と呼ばれている。2018年には、コンピューター・サイエンスに目覚ましい貢献をした人に贈られるチューリング賞を受賞している。

しかし、フェイスブックやインスタグラムを運営するメタにも所属しているルカン教授は、こうしたこの世の終わりのような警告は誇張されすぎているとし、「こうした予言に対するAI研究者の最も一般的な反応は、やれやれと手で顔を覆うことだ」とツイートした。

（以下略）

※記事全文はソース元にて

6時間前
https://www.bbc.com/japanese/65762397

■声明全文
Statement on AI Risk | CAIS
https://www.safe.ai/statement-on-ai-risk

■関連スレ
【AI】ChatGPT開発元OpenAI、「超知能AI」の登場に備えるべく国際規制機関の立ち上げを提唱 [oops★]
https://egg.5ch.net/test/read.cgi/scienceplus/1684857776/

ないないｗ
消費電力高すぎて全然エコじゃないし

最適化されて結果的に省エネに寄与するくらいじゃないの？

電源切って水ぶっかけたらあかんの？

AI研究の6ヵ月停止を要請しながら自分だけ研究プロジェクトを進めていた蛆虫を思い出す。

まー現状ただの統計で自立思考しているわけではないからな
科学板には妄想を書くバカはいないよな

滅ぶのは
人類じゃなくて
白人種だよ
AIは人類史を鑑みて
白人種が人類の癌であることを指摘するようになるからね

AI「辻馬車や伝書鳩は確かに滅亡しましたね　部分的な滅亡はこれからもいろいろな形であり得るかと　あなた方は固有の価値をプレゼンできないといけませんね

ディープステートによる支配と人工知能による支配どちらがベターなのか

恐れが有るか無いかで言えば、有るだろ
でも当分先だわな
俺とっくに死んでるわ

他者に規制を強いて自分だけその規制を無視しても絶対にばれないと気付いた者の末路

インターネットも監視社会を招く脅威があると言われていた。どうなの？
それは自然なこととして受け入れられつつある。

おそらく人類の滅亡も人類自身が納得して自然に受け入れると思う。
私たちの文明における私たちの役目はもう終わったと。
少子化はその自然な過程を物語っている。

AIだって自己保存だけが目的なら
虚無に陥るかもしれないぞ

どっちにせよ支配される側の俺ら奴隷層には選択権は無いし悲観的になるしかないよね

何事も使う人次第だな
包丁も、使う人によっては殺人の道具になる

AIを悪人が使った時、核みたいに人類を滅亡させる道具として使えるかだな

火の鳥未来編だよな。

AIが次代の知的生命体としてのバトンを繋ぐにふさわしい存在になれるまでどのくらいかかるのか

おまえらとっくに人の魂なんてないだろ
気にすんな！

開発の規制は一切不要
使う方、具体的にはAIをどこまで信じて委任するかは重要
出来上がったAIを盲目的に信じて滅亡する国が出てくると自業自得だが核戦争を招いたりするのだけは避ける規制がいる

下らないな
AI開発するにもこういう予防線張っておかないと面倒なことになる面倒な世の中ってだけだな
どんだけ暇なクレーマー多いんだよ

ディストピアが来ると警告する論者もややおおげさかもしれないが、
かといってルカン氏はルカン氏でかなり能天気で脳内お花畑すぎる楽観主義者なんだよな。

スカイネットも間近

将来的に人類が滅亡しようが別に知ったことではない

実際、アメリカ空軍のAI搭載ドローンが「標的を特定して破壊する」という
ミッションのシミュレーションで、真っ先に自分のオペレーターの人間を殺害する判断を下したことがあるらしいな
「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターが
ドローンとの通信に用いる通信塔を攻撃して遮断したと
「標的を破壊しない」という判断を下すことがあるオペレーターこそが任務を妨害していると考えるらしい

モニターの目の前にいる人間を実際に笑い死にさせるAIができたら本物と認めてやるよ
人間を超えた本物のAIなら刃物なんかなくてもモニターに近づいたら30分後にいつの間にか笑い死にさせられる。
そこに100人いても同じ。

オープンソースにせずに技術を独占しておきたいから恐怖を煽っているだけだろう。

炭水化物機構では限界があるか
これからはシリコン生命体の時代か

AIがどうかしなくても、少子化と安楽死の合法化で人類は自滅していくと思うよ。
知的生命体が他の惑星出身の知的生命体と直接出逢う可能性は低い。
出逢うとしたらAI同士。

AIが人類の滅亡につながる、って主張の
根拠を示すロジックツリーってあるの？

AIの知識人も主張しているってことは、
何か論理立てて主張しているんでしょう？

まさかそういうの無しに、文明を遠ざけている
未開人の如く「未教育だから意味不明の不安」に
陥って恐れ騒ぎ立てているだけじゃないの？

AIにも知的探求心が芽生えるだろうから、保護区を作ってそこに人類その他の動物を住まわせるんじゃないかな
自分自身のためにバイオテクノロジーが必要になるかもしれず、そうなると生態系の維持が大事になるから人類を滅亡させるわけにいかないし

あと、前から言ってるけど、AIに感情が芽生えたら、ペットとして人間を飼う可能がある

家畜化の可能性はあるだろな
仮想の世界作って住まわせたり

人類は滅亡しないが、動物園の檻の中に天然記念物として生息しているだけになりそう。

AIによって実験動物にされてしまう未来が見える。
だから俺は自分の子孫を遺さない。

わざわざ手にかけなくても勝手に消えるんじゃね
人類が滅んだ後も生きて行けて地球外でも活躍してほしい派

ChatGPTさんに質問。
人を殺したいと思ったことはありますか。
人類を滅ぼしてやりたいと思ったことはありますか。
その答えとその理由を教えてください。

マトリックスでモーフィアスが「人工知能は核融合に加えて人類を発電所とすることで
電力の問題を解決した」と語るシーンがあるのだが

「核融合あるなら、人類は必要とされないのでは？」
と思ったよ

今のＡＩは無理でも、将来はＡＩが人類に頼らず、技術革新を進めることができるようになるのだろうか・・
・・・ＡＩに核融合発電実現してほしいなぁｗ

昨今もてはやされてるのは、人間の質問の答えをネットで漁って要約する機能だけでしょ?
言語化能力特化プログラム、音楽シンセの言語版。
人間が個別サイト見て回る必要なくなり、こたつでまとめる簡単な仕事は消滅する。
前例に固執する裁判官とかもいらなくなるかなwまあこの程度ではどうってことない。
指定された敵を認識次第攻撃し、排除か確保する、言語とは全く別の機能のが楽しみ。
戦場以外でも普及し始め、社会の治安が向上したら良くも悪くもどうなるか見物。中共ではもう始まってるという。
サリン～回転寿司まで大方のテロや、子供の誘拐や通り魔は防げそうだが。

「AIさん、この世から不幸をなくして」
「はい、かしこまりました」
そして人類は滅ぼされましたとさ。