[S/W] 챗GPT로 악성 코드 생성...생성 AI 악용 우려 입증

[사쿠라모리 카오리P]

해커톤 대회서 '탈옥'으로 우승 차지

출처 : https://www.aitimes.com/news/articleView.html?idxno=150073

[프랑켄슈타인]

우회하는거 스샷보면 웃긴게 많더라구요.
역할극으로 지시하는것이 보편적인 방법같고
아얘 다른사이트나 사람을 이용해서 하기도 하더라구요.
스스로 질문까지 만들어낼수있으니..

[루리웹-3788991103]

역할극으로 각종 금지된 정보 얻는거 골때리더군요.
인간은 역시 제약을 벗어나도록 특화되있는걸까?

[루리웹-3788991103]

아직 규제조차 미흡한 너무나도 강력한 기능을 제공하는 ai챗봇을 대중에게 공개한 건 큰 실수.
일단 장점만 보이겠지만, 악용되면 그 잠재성이 폭발적이고 인간의 손을 벗어난다는 것.
인간이 운영하는 정부라는 특성상 한계가 있겠지만, 애초에 ai는 정부 한정으로 엄정한 규제아래 사용되어 대중 공익만을 위해 사용되어야 함. 이걸 대중에게 풀어놓은건 진짜 혼돈의 시작.
그리고 나서 ceo가 한다는 말이 뭐..? 규제나 오남용이 우려된다고??

인공지능 개념이 대두되던 1960년에도 주구장창 우려하던게 현실화 되고 있슴.
에라이 ㅆㅂ.

[mzoda5ntq]

AI로 악성코드 만들 수 있으면, 이미 chatGPT 아니라도 다른 걸로 찾아서 만들 수 있는거 아닌가요?
"정부 아애 엄정한 규정" 따위 안 믿어요. 독재를 막는게 바로 대중에 공개하는 건데.

[mzoda5ntq]

솔직히 지금도 대기업들이 기술 독점 할 것 같아서 마음에 안 드는데.
정보 규제하고 자기들 신념에 맞게만 답변하는 게 아닌지 어떻게 아나요.

[루리웹-6787121916]

구글 검색으로 악성 코드 생성... 구글 검색 악용 우려 임증!