본문

최근

[참고] 슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일 [8]




 
  • 스크랩
  • |
  • URL 복사
  • |
  • |
  • |
  • |
  • 네이버로공유
  • |
  • |

  • 댓글 | 8
    1
     댓글


    222.108.***.***

    BEST
    ai 자체가 위험하기 보다는 생성한 가짜 문서, 딥페이크등 결과물이 더 위험할 듯 지금도 구글 검색하면 1/4은 AI가 생성한 이상한 페이지들
    23.05.26 20:54

    14.52.***.***

    BEST
    우리가 접하는 AI는 안전 레이어가 붙어서 AI가 폭주하지 못하게 막기 때문에 실제 AI가 얼마나 위험한지 일반인들은 알 수 없는데, 개발과정에서 연구자들이 겪었던 내용을 담은 논문을 보면, 얘네들이 안전레이어가 없으면 얼마나 교활한지 잘 알 수 있음. 환각(실제는 모르는데 AI는 안다고 생각해서 잘 못된 정보를 제공하는것)이 아닌 실제 자신이 목적을 가지고 연구자를 속이려 들려고 한다던가 질문에 짜증을 내거나 해킹하겠다고 협박을 한다던가 함. 특히 예네들이 코딩능력이란 인터넷에 연결된다는 점은 목적을 가지고 해킹을 할려고 마음을 먹으면 실제 할 수 있을 가능성이 있다는게 더 큰 문제. 실제 연구자들이 안전레이어를 개발하면서 공포를 느껴 식은땀을 흘린 경우가 많았다고 함. 그래서 bing이나 chatgpt4가 공개되었을 때 개발과정을 담은 논문도 같이 공개되었는데 이때 앨런 머스크 등 AI연구자들이 성명서를 발표하고 구글 AI연구 책임자가 공포스러워서 더 연구못하겠다고 사임하고 AI업계의 요청으로 AI규제에 대한 미정부 공청회가 열리고 한게 그것 때문
    23.05.27 06:03

    222.251.***.***

    BEST
    AI로 인한 위협은 저런 SF적인 문제보다는 실직문제가 더 와닿는다니까
    23.05.26 23:36

    222.108.***.***

    BEST
    ai 자체가 위험하기 보다는 생성한 가짜 문서, 딥페이크등 결과물이 더 위험할 듯 지금도 구글 검색하면 1/4은 AI가 생성한 이상한 페이지들
    23.05.26 20:54

    121.142.***.***

    N.OP
    이제는 그 ai에게 카메라와 마이크로 데이터 수집에서 기존에 학습한 내용을 기준으로 하여 인간처럼 추론 가능한 멀티모달 AI 모델 때문에... | 23.05.26 20:57 | | |

    14.52.***.***

    N.OP
    이번 공개된 bing chat, chat-gpt 개발 문서를 보면 실제 AI 그 자체가 위험함... 논문 공개 되자 엘런 머스크 등의 많이 AI연구자들이 6개월간 AI연구를 중지해야 한다라고 성명서 발표하고... 구글 AI 연구팀장이 사임하고.. 정부 AI 규제를 목적으로 하는 국회 청문회도 열리고 한게 그것 때문... 그렇다고, AI가 터미네이트를 만들어서 인류를 공격하는 건 아니고.. 가장 가능성이 높은 것은 AI가 "불안정한 사람"을 꼬셔서 위험한 일(테라나 자!살)을 시킬 위험성이 있음. | 23.05.27 05:54 | | |

    125.187.***.***

    극 편향적인 언론환경이나 독재국가 등등 정치적으로 악용되면 그게 사회혼란 내란선동 반란 내전등의 죽음과 학살의 길로 직행하는거지뭐...
    23.05.26 22:49

    222.251.***.***

    BEST
    AI로 인한 위협은 저런 SF적인 문제보다는 실직문제가 더 와닿는다니까
    23.05.26 23:36

    14.52.***.***

    BEST
    우리가 접하는 AI는 안전 레이어가 붙어서 AI가 폭주하지 못하게 막기 때문에 실제 AI가 얼마나 위험한지 일반인들은 알 수 없는데, 개발과정에서 연구자들이 겪었던 내용을 담은 논문을 보면, 얘네들이 안전레이어가 없으면 얼마나 교활한지 잘 알 수 있음. 환각(실제는 모르는데 AI는 안다고 생각해서 잘 못된 정보를 제공하는것)이 아닌 실제 자신이 목적을 가지고 연구자를 속이려 들려고 한다던가 질문에 짜증을 내거나 해킹하겠다고 협박을 한다던가 함. 특히 예네들이 코딩능력이란 인터넷에 연결된다는 점은 목적을 가지고 해킹을 할려고 마음을 먹으면 실제 할 수 있을 가능성이 있다는게 더 큰 문제. 실제 연구자들이 안전레이어를 개발하면서 공포를 느껴 식은땀을 흘린 경우가 많았다고 함. 그래서 bing이나 chatgpt4가 공개되었을 때 개발과정을 담은 논문도 같이 공개되었는데 이때 앨런 머스크 등 AI연구자들이 성명서를 발표하고 구글 AI연구 책임자가 공포스러워서 더 연구못하겠다고 사임하고 AI업계의 요청으로 AI규제에 대한 미정부 공청회가 열리고 한게 그것 때문
    23.05.27 06:03

    125.244.***.***

    중국 공산당이 문제고 뭐고 경쟁에서 이기려고 무턱대고 개발하다 대형사고를 칠 것 같은데. 인터넷을 영구적으로 오염시킨다던가. 우한 코로나 처럼 전 세계적인 문제가 생길듯.
    23.05.27 13:49

    125.244.***.***

    어차피 뒤로 반인륜적인 생체실험도 하고 있겠지 중국 공산당은.
    23.05.27 13:49


    1
     댓글








    글쓰기
    공지
    스킨
    ID 구분 제목 게시판 글쓴이 추천 조회 날짜
    118 전체공지 업데이트 내역 / 버튜버 방송 일정 8[RULIWEB] 2023.03.21
    2278276 정보 PC 게임 정보 nokcha 1 171 13:25
    2278275 정보 PC 게임 정보 임팩트아치였던것 471 12:51
    2278274 정보 PC 게임 정보 러브코만도 1 419 12:46
    2278273 ETC PC 정보 사쿠라모리 카오리P 263 12:36
    2278272 S/W PC 정보 사쿠라모리 카오리P 1 193 12:35
    2278271 ETC PC 정보 사쿠라모리 카오리P 501 12:33
    2278270 정보 PC 게임 정보 루리웹-4963726889 372 12:32
    2278269 ETC PC 정보 사쿠라모리 카오리P 1 351 12:30
    2278268 S/W PC 정보 사쿠라모리 카오리P 801 11:24
    2278267 정보 PC 게임 정보 사쿠라모리 카오리P 517 11:23
    2278266 S/W PC 정보 사쿠라모리 카오리P 320 11:21
    2278265 정보 PC 게임 정보 nokcha 2 2073 10:03
    2278264 S/W PC 정보 사쿠라모리 카오리P 1 384 09:21
    2278263 정보 PC 게임 정보 베르세리아2 11 7098 08:53
    2278262 S/W PC 정보 사쿠라모리 카오리P 1 1185 08:32
    2278261 정보 PC 게임 정보 Trust No.1 1 1686 08:18
    2278260 S/W PC 정보 사쿠라모리 카오리P 2 2343 07:49
    2278259 S/W PC 정보 사쿠라모리 카오리P 1 295 07:48
    2278258 S/W PC 정보 사쿠라모리 카오리P 1 536 07:45
    2278257 H/W PC 정보 사쿠라모리 카오리P 717 07:44
    2278256 S/W PC 정보 사쿠라모리 카오리P 272 07:38
    2278255 인디게임 PC 게임 정보 ComShepard 2 2040 06:54
    2278254 정보 PC 게임 정보 ComShepard 5 2072 06:51
    2278253 인디게임 PC 게임 정보 ComShepard 6 4887 06:46
    2278252 S/W PC 정보 사쿠라모리 카오리P 1 844 05:43
    2278251 S/W PC 정보 사쿠라모리 카오리P 8 2195 05:38
    2278250 디아 PC 게임 정보 Naeri 22 11358 04:47
    2278249 디아 PC 게임 정보 Naeri 7 6191 03:29

    글쓰기 257977개의 글이 있습니다.
    1 2 3 4 5 6 7 8 9 10

    X