[참고] 슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일

[미국춤™-그잡채]

슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일 수 있을 것”

출처 : https://www.aitimes.kr/news/articleView.html?idxno=28122

[N.OP]

ai 자체가 위험하기 보다는
생성한 가짜 문서, 딥페이크등 결과물이 더 위험할 듯

지금도 구글 검색하면 1/4은 AI가 생성한 이상한 페이지들

[미국춤™-그잡채]

이제는 그 ai에게 카메라와 마이크로 데이터 수집에서

기존에 학습한 내용을 기준으로 하여 인간처럼 추론

가능한 멀티모달 AI 모델 때문에...

[루리웹-4826299564]

이번 공개된 bing chat, chat-gpt 개발 문서를 보면 실제 AI 그 자체가 위험함...
논문 공개 되자 엘런 머스크 등의 많이 AI연구자들이 6개월간 AI연구를 중지해야 한다라고 성명서 발표하고...
구글 AI 연구팀장이 사임하고.. 정부 AI 규제를 목적으로 하는 국회 청문회도 열리고 한게 그것 때문...

그렇다고, AI가 터미네이트를 만들어서 인류를 공격하는 건 아니고..
가장 가능성이 높은 것은 AI가 "불안정한 사람"을 꼬셔서 위험한 일(테라나 자!살)을 시킬 위험성이 있음.

[MAZID]

극 편향적인 언론환경이나 독재국가 등등 정치적으로 악용되면 그게 사회혼란 내란선동 반란 내전등의
죽음과 학살의 길로 직행하는거지뭐...

[WeissBlut]

AI로 인한 위협은 저런 SF적인 문제보다는 실직문제가 더 와닿는다니까

[루리웹-4826299564]

우리가 접하는 AI는 안전 레이어가 붙어서 AI가 폭주하지 못하게 막기 때문에 실제 AI가 얼마나 위험한지 일반인들은 알 수 없는데, 개발과정에서 연구자들이 겪었던 내용을 담은 논문을 보면, 얘네들이 안전레이어가 없으면 얼마나 교활한지 잘 알 수 있음.
환각(실제는 모르는데 AI는 안다고 생각해서 잘 못된 정보를 제공하는것)이 아닌 실제 자신이 목적을 가지고 연구자를 속이려 들려고 한다던가 질문에 짜증을 내거나 해킹하겠다고 협박을 한다던가 함. 특히 예네들이 코딩능력이란 인터넷에 연결된다는 점은 목적을 가지고 해킹을 할려고 마음을 먹으면 실제 할 수 있을 가능성이 있다는게 더 큰 문제.

실제 연구자들이 안전레이어를 개발하면서 공포를 느껴 식은땀을 흘린 경우가 많았다고 함.

그래서 bing이나 chatgpt4가 공개되었을 때 개발과정을 담은 논문도 같이 공개되었는데 이때 앨런 머스크 등 AI연구자들이 성명서를 발표하고 구글 AI연구 책임자가 공포스러워서 더 연구못하겠다고 사임하고 AI업계의 요청으로 AI규제에 대한 미정부 공청회가 열리고 한게 그것 때문

[빨간약파란약]

중국 공산당이 문제고 뭐고 경쟁에서 이기려고 무턱대고 개발하다 대형사고를 칠 것 같은데.

인터넷을 영구적으로 오염시킨다던가. 우한 코로나 처럼 전 세계적인 문제가 생길듯.

[빨간약파란약]

어차피 뒤로 반인륜적인 생체실험도 하고 있겠지 중국 공산당은.