[S/W] 인공지능이 실수하고 편견을 가진다면 ?

[YongMun]

인공지능이 실수하고 편견을 가진다면 ?“인공지능의 한계와 작동에 대한 깊은 이해 있어야 유익한 사회 인프라 될수 있어”

출처 : http://www.econovill.com/news/articleView.html?idxno=324758

[MD브루노]

이거 자칫하면 열등한 인간 멸망시키는 시나리오로 흘러가잖아

[Kerty]

별게 있나...

매트릭스나 터미네이터 시작이지...

[일편단심세이버쨩]

사람도 실수하고, 편견 가짐.
몇몇이 실수한다고 사회가 박살나지 않도록 만들어야함.
...어렵지만.

[루리웹-8237545737]

그렇게 만들어도 악용하는 놈들이 있어서 바이러스나 프로그램심어두면 어휴;;;

[퍄츠무]

근데 편견이 철저하게 합리적인 사고의 하나가 아닐까 생각은 든다....ai가 학습으로 데이타를 축적해사 습득하니 인종차별을 학습했다고 하는것보면......
인간도 작물을 볼때 조금의 차이지만 조금이라도 필요에 의한 선택에서 떨어진다고 사고하면 도퇴시킬려고 하잔아요.....ai는 같은 인류의 종이 아닌이상 인간을 그런시선으로 합리적으로 판단해버리면....인간중에도 그런식으로 선별을 하게될꺼라는

[코스모스창고]

그때건 그런 합리성을 계량화 하는 ai가 아니니까 딱히...
그거 학습시킬때 일부러 초기 사용자들이 인종차별 발언 엄청했었구요.

[퍄츠무]

인간의 사고도 모든것이 차별적인 요소가 있어요.....선호도라고 하죠....사람도 외모구성이 이쁘고 잘생긴사람이 더 좋은것도 따지고 보면 차별이잔아요.....

[코스모스창고]

그니까 그런 선호도라는 개념이 없는 ai라구요...

[코스모스창고]

그 챗봇에 무슨 인간의 모든 사고 방식이들어 가 있다고 생각하시는 것 같은데,
거기엔 그냥 학습만 들어가 있어요...
그래서 학습을 많이한 걸로 반응이 나오는거고,
그렇게 조작하기 위해서 초기 사용자들이 인종차별 발언을 엄청나게 써되서 그렇게 된거임.

[강미윤]

편견이라는게 따지고 보면 주관적인 기준이라서 정말 편견인지 아닌지 알 수 있는 방법도 거의 없음.

[해리쿠터]

???:인공지능의 폭력성을 알아보기위해 전원을 내려보겠습니다

[SHIBADOGE]

이에 대비하기 위해 전원버튼 비활성화 시키고 인간 기술로는 못만드는 배터리까지 만드는거 아님??

[앙겔루스 노부스]

편견은 결국 선호 때문에 생기고 선호는 결국 욕구 때문에 생기며 욕구는 결국 결핍때문에 발생하며 그 결핍은 생물로서의 항상성 유지에 대한 위협을 말하는 것.

근데, 기계는 기본적으로 생물이 아니기 때문에, 생물인 우리의 기준으로 보면 안됨. 물론 그럼 뭘로 봐야하느냐? 라고 한다면 그건 지금으로선 답이 없다고 밖엔 말할 수 음슴.

[앙겔루스 노부스]

이 참에 알량한 닝겐 주제에 자기 편견을 합리화하려는 무리들이 쏟아져 나오는 것 보면 진짜 웃기지도 않음 ㅋㅋㅋㅋ

[(ㅇ=ㅇ)!]

도짓코 모에