본문

[참고] 슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일 [8]




(351670)
작성일 프로필 열기/닫기
추천 | 조회 4241 | 댓글수 8
글쓰기
|

댓글 | 8
1
 댓글


(IP보기클릭)222.108.***.***

BEST
ai 자체가 위험하기 보다는 생성한 가짜 문서, 딥페이크등 결과물이 더 위험할 듯 지금도 구글 검색하면 1/4은 AI가 생성한 이상한 페이지들
23.05.26 20:54

(IP보기클릭)14.52.***.***

BEST
우리가 접하는 AI는 안전 레이어가 붙어서 AI가 폭주하지 못하게 막기 때문에 실제 AI가 얼마나 위험한지 일반인들은 알 수 없는데, 개발과정에서 연구자들이 겪었던 내용을 담은 논문을 보면, 얘네들이 안전레이어가 없으면 얼마나 교활한지 잘 알 수 있음. 환각(실제는 모르는데 AI는 안다고 생각해서 잘 못된 정보를 제공하는것)이 아닌 실제 자신이 목적을 가지고 연구자를 속이려 들려고 한다던가 질문에 짜증을 내거나 해킹하겠다고 협박을 한다던가 함. 특히 예네들이 코딩능력이란 인터넷에 연결된다는 점은 목적을 가지고 해킹을 할려고 마음을 먹으면 실제 할 수 있을 가능성이 있다는게 더 큰 문제. 실제 연구자들이 안전레이어를 개발하면서 공포를 느껴 식은땀을 흘린 경우가 많았다고 함. 그래서 bing이나 chatgpt4가 공개되었을 때 개발과정을 담은 논문도 같이 공개되었는데 이때 앨런 머스크 등 AI연구자들이 성명서를 발표하고 구글 AI연구 책임자가 공포스러워서 더 연구못하겠다고 사임하고 AI업계의 요청으로 AI규제에 대한 미정부 공청회가 열리고 한게 그것 때문
23.05.27 06:03

(IP보기클릭)222.251.***.***

BEST
AI로 인한 위협은 저런 SF적인 문제보다는 실직문제가 더 와닿는다니까
23.05.26 23:36

(IP보기클릭)222.108.***.***

BEST
ai 자체가 위험하기 보다는 생성한 가짜 문서, 딥페이크등 결과물이 더 위험할 듯 지금도 구글 검색하면 1/4은 AI가 생성한 이상한 페이지들
23.05.26 20:54

(IP보기클릭)121.142.***.***

N.OP
이제는 그 ai에게 카메라와 마이크로 데이터 수집에서 기존에 학습한 내용을 기준으로 하여 인간처럼 추론 가능한 멀티모달 AI 모델 때문에... | 23.05.26 20:57 | | |

(IP보기클릭)14.52.***.***

N.OP
이번 공개된 bing chat, chat-gpt 개발 문서를 보면 실제 AI 그 자체가 위험함... 논문 공개 되자 엘런 머스크 등의 많이 AI연구자들이 6개월간 AI연구를 중지해야 한다라고 성명서 발표하고... 구글 AI 연구팀장이 사임하고.. 정부 AI 규제를 목적으로 하는 국회 청문회도 열리고 한게 그것 때문... 그렇다고, AI가 터미네이트를 만들어서 인류를 공격하는 건 아니고.. 가장 가능성이 높은 것은 AI가 "불안정한 사람"을 꼬셔서 위험한 일(테라나 자!살)을 시킬 위험성이 있음. | 23.05.27 05:54 | | |

(IP보기클릭)125.187.***.***

극 편향적인 언론환경이나 독재국가 등등 정치적으로 악용되면 그게 사회혼란 내란선동 반란 내전등의 죽음과 학살의 길로 직행하는거지뭐...
23.05.26 22:49

(IP보기클릭)222.251.***.***

BEST
AI로 인한 위협은 저런 SF적인 문제보다는 실직문제가 더 와닿는다니까
23.05.26 23:36

(IP보기클릭)14.52.***.***

BEST
우리가 접하는 AI는 안전 레이어가 붙어서 AI가 폭주하지 못하게 막기 때문에 실제 AI가 얼마나 위험한지 일반인들은 알 수 없는데, 개발과정에서 연구자들이 겪었던 내용을 담은 논문을 보면, 얘네들이 안전레이어가 없으면 얼마나 교활한지 잘 알 수 있음. 환각(실제는 모르는데 AI는 안다고 생각해서 잘 못된 정보를 제공하는것)이 아닌 실제 자신이 목적을 가지고 연구자를 속이려 들려고 한다던가 질문에 짜증을 내거나 해킹하겠다고 협박을 한다던가 함. 특히 예네들이 코딩능력이란 인터넷에 연결된다는 점은 목적을 가지고 해킹을 할려고 마음을 먹으면 실제 할 수 있을 가능성이 있다는게 더 큰 문제. 실제 연구자들이 안전레이어를 개발하면서 공포를 느껴 식은땀을 흘린 경우가 많았다고 함. 그래서 bing이나 chatgpt4가 공개되었을 때 개발과정을 담은 논문도 같이 공개되었는데 이때 앨런 머스크 등 AI연구자들이 성명서를 발표하고 구글 AI연구 책임자가 공포스러워서 더 연구못하겠다고 사임하고 AI업계의 요청으로 AI규제에 대한 미정부 공청회가 열리고 한게 그것 때문
23.05.27 06:03

(IP보기클릭)125.244.***.***

중국 공산당이 문제고 뭐고 경쟁에서 이기려고 무턱대고 개발하다 대형사고를 칠 것 같은데. 인터넷을 영구적으로 오염시킨다던가. 우한 코로나 처럼 전 세계적인 문제가 생길듯.
23.05.27 13:49

(IP보기클릭)125.244.***.***

어차피 뒤로 반인륜적인 생체실험도 하고 있겠지 중국 공산당은.
23.05.27 13:49


1
 댓글





읽을거리
[게임툰] 공주의 변신은 무죄, 프린세스 피치 Showtime! (25)
[NS] 창세기전: 회색의 잔영, 기념사업의 끝 (150)
[MULTI] 개발 편의적 발상이 모든 것을 쥐고 비틀고 흔든다, 별이되어라2 (83)
[NS] 여아들을 위한 감성 영웅담, 프린세스 피치 Showtime! (48)
[게임툰] 해방군은 왜 여자 뿐이냐? 유니콘 오버로드 (125)
[MULTI] 진정한 코옵으로 돌아온 형제, 브라더스: 두 아들의 이야기 RE (12)
[MULTI] 모험의 과정이 각별한 경험으로 맺어질 때, 드래곤즈 도그마 2 (52)
[게임툰] 키메라와 떠나는 모험, 덱 빌딩 로그라이크 '다이스포크' (39)
[게임툰] 번뜩이는 재치와 액션으로! 마리오 vs. 동키콩 (41)
[MULTI] 유니콘 오버로드, 아무도 전설의 오우거 배틀 3를 만들어주지 않길래 (147)
[게임툰] 슈퍼 민주주의를 위하여! 헬다이버즈 2 (77)
[MULTI] 낭만과 두려움 가득한 야간주행, 퍼시픽 드라이브 (23)



글쓰기
공지
스킨
ID 구분 제목 게시판 글쓴이 추천 조회 날짜
118 전체공지 업데이트 내역 / 버튜버 방송 일정 8[RULIWEB] 2023.08.08
2300536 ETC PC 정보 사쿠라모리 카오리P 1 189 12:32
2300535 ETC PC 정보 사쿠라모리 카오리P 1 178 12:32
2300534 기타 PC 게임 정보 왜날뾁에올인 1 217 12:24
2300533 H/W PC 정보 헤드샷21 1 741 12:21
2300532 VR PC 정보 사쿠라모리 카오리P 2 590 12:18
2300531 S/W PC 정보 사쿠라모리 카오리P 113 12:14
2300530 S/W PC 정보 사쿠라모리 카오리P 147 12:14
2300529 ETC PC 정보 Belor'relos 803 12:05
2300528 정보 PC 게임 정보 Belor'relos 366 11:56
2300527 정보 PC 게임 정보 nokcha 331 11:48
2300526 정보 PC 게임 정보 하지만구 3 1348 11:36
2300525 정보 PC 게임 정보 Belor'relos 1 1012 11:24
2300524 정보 PC 게임 정보 Belor'relos 15 2618 11:20
2300523 정보 PC 게임 정보 로메오카이 366 10:59
2300522 S/W PC 정보 아이엔에프피 1 334 10:46
2300521 S/W PC 정보 사쿠라모리 카오리P 210 10:41
2300520 정보 PC 게임 정보 미슐랭오너 2 2450 10:39
2300519 기타 PC 게임 정보 에루디토 3 2104 10:27
2300518 정보 PC 게임 정보 nokcha 1705 10:10
2300517 H/W PC 정보 오덕살맨 701 09:57
2300516 ETC PC 정보 사쿠라모리 카오리P 1084 09:14
2300515 정보 PC 게임 정보 탄실이 3 726 09:09
2300514 정보 PC 게임 정보 탄실이 2 546 09:08
2300513 WOW PC 게임 정보 아타호-_- 2 1910 08:42
2300512 하스스톤 PC 게임 정보 아타호-_- 3 875 08:20
2300511 ETC PC 정보 사쿠라모리 카오리P 156 08:09
2300510 S/W PC 정보 사쿠라모리 카오리P 338 08:07
2300509 정보 PC 게임 정보 숀셩 32 6272 03:59

글쓰기 285466개의 글이 있습니다.
1 2 3 4 5 6 7 8 9 10

X