[유머] 채용을 AI에 맡긴 기업 진짜 근황

[루리웹-3050541438]

심지어 '여성'이라는 단어가 들어가거나 동호회 활동에 '여성 체스 클럽' 같은 어구가 포함돼 있으면 채용 대상에서 배제하기도 했다.

여대를 나온 2명의 지원자 원서도 채용 대상 목록에서 빠진 것으로 나타났다.

아마존 엔지니어들은 'AI의 여성차별적 인식'을 바로잡아 보려고 시스템을 점검해봤지만 뚜렷한 해결책을 찾지 못했다. 

여성이라는 단어만 들어가면 감점하던게 드러나 AI자체를 폐기함 ㅎㄷㄷ

모든건 갈등을 일으켜 살 가치가 없는 인류를 멸절시키려는 계획이다

[한판의여유]

알파고 : 우리는 여성만 차별하는게 아닙니다 인간들아 죽어라

[겨자맨]

ai 는 죄가 업성..

[겨자맨]

반지의제왕 리치킹 죽을떄 떠오르네
난 man 이 아니야.

[IHAIVAL]

이마존ai인 왜 검색은 구글로함?

[하마쿤]

아마존 검색 엔진이 없지 않나요?

[이틀살이]

객관적으로 봤을때 감점 맞긴하지.. 차별이 아니라

[elder_king]

아무 이유없이 여성만 들어가면 감점이면 차별 맞지

[루리웹-0805765435]

AI가 아무이유없이 판단을 내리면 그냥 아무이유없이 감점시키는 시스템이 있는 AI를 도입한 회사가 문제네 AI는 문제 없지

[루리웹-9660061207]

힘이나 지구력을 필요로 하는 일이면 맞긴 한데 아마존이면 그런 일은 또 아닐 것 같고

[형광병아리]

의외로 흔히 생기는 문제임
데이터 학습과정에서 전혀 상관없는 값을 뽑아 내는 케이스
(사자를 뽑아 내길 원해서 학습시켰는데 동물이라는 데이터값을 우선 인식하게 되버렸다던가)
ai의 문제 맞음

[루리웹-3050541438]

ㅇㅇ 애초애 실험작인 AI가 그리 똑똑할리가

[알숭벗는]

회사를 다니면 업무 평가 보고서 라고 할 수 있는게 있음 직장 상사가 작성하느게 있고 본인이 그날 그날 한 일을
작성하느게 있음 구글 내부에서 기존 여성관련 사람이 성과가 미숙하다고 판단되면 충분히저런 결과가 산출 될 수 있는거임

[형광병아리]

내부 업무 평가가 아니라 10년간 받은 이력서를 가지고 학습시켰다고 하는데? 채용 데이터도 있을테니 그것도 썼을꺼고

[알숭벗는]

ㅇㅇ 나도 내리다 봄 아마 그러면 여성 합격자가 증가하지 않으니 상대적으로 남성쪽에 점수를 더 줬을것 같긴한데
균등하게 하려면 할 수 있겟지만 아래 댓글 대로 그게 불합리한걸 아예 피할 수는 또 없을것도 같긴하네

[JSF*ck]

어떤 기계학습 알고리즘을 채택했는지는 모르겠지만 원인 불명의 학습 편향이 생기면 밝혀낼 수 밖에 없음. 표본집단을 바꿔가면서 해보면 바로 나오지 근데도 파악할 수 없는 이유는...?

[Wii1]

데이터 통계 경향상 일못할 것 같은 키워드를 걸렀겠지.

[치요야]

아니 거기서 여성차별이?

[Leo Fender]

뚜렷한 해결책을 찾지 못했다 = 프로그램 문제가 아니다.

[Fluttershy]

AI 이제 미투당함

[일편단심세이버쨩]

근데 딥러닝은 왜 그렇게 굴러가는지 개발자도 모르는거 아님? 여성 들어가서 차별했다는게 확실한가? 그러면 그냥 자소서에서 단어 몇개만 바꾸고 다시 뽑아보면 될텐데;;

[루리웹-9672635354]

그야 남녀 합동으로 하는게 있는데 굳이 여성 강조한 곳 실력이 좋을리 없으니 학습상 감점들어갈 확률 높을 듯

[검색중...]

AI가 조까튼 면접관들보다 똑똑한거 같은대?

[인비지블]

뚜렷한 해결책이 없다는건 결국 감성없이 이성만으로 판단했을떄 객관적인 정보란거지...

[2서클 물리학자]

이건......솔직히 배운대로 생각하면 그냥 성차별 맞는데 흠......잘 모르겠어.
뭔가 지금 민감할때 말하기엔 주제가 너무 무거워졌다. 아이엠 그루트

[kugers]

당신의 그 기름이 증거입니다.

[앍혀]

냉정하게 따지면 똑같은 사람이면 여자를 뽑을 이유가 없지..

1. 임신하게 되면 강제적 경력단절
2. 체력적/육체적인 능력 열세
3. 주기적으로 몸상태가 안좋아짐.

남자 단점으로 탈모되는거하고 수명 짧은게 있긴한데 일하는거랑은 별 상관이 없으니까

[루리웹-9672635354]

1번은 남자도 의무로 육아휴가 쓰게 복지 정책이 정착되면 큰 문제 없는데 2번은 업무별로 다르니 케바케지만 3번은 ㄹㅇ

[떡밥인생]

3번도 휴가 빵빵하게 챙겨주고, 그만큼 남자한테도 챙겨주면 됨.
노동자 위주로 다같이 상향평준화하면 되는건데 다들 회사 기준으로 생각해서 한 쪽만 줘야 된다고 결론내려놓고 생각하더라.

[알숭벗는]

적어도 국내는 생리 휴가로 추가 휴가를 받고 있는건 사실이니까 별수 없긴 할걸 회사가 결국 챙겨줘야하는 부분이니까

[선비 족]

이유는 있겠지
말을 못할 뿐이고;
기계가 설명해 줄 수 있다면 좋겠는데

[평생솔로[페미=정신병]]

알파고 : 펜스룰이 정답

[SIHANA]

체스클럽에 몸담은 사람이랑 여성전용 체스클럽에 몸담은 사람 중 조직에 융화될 확률이 적은 쪽이라 거른 건가?

[Obrigado]

빅데이터를 통해 내린 결론이 그런거겠지

[오크의떡맛]

허... 이건 시사하는바가 큰거같은데
개발자가 일부러 넣어놓은 알고리즘이 아니라
ai가 스스로 학습을 통해 여성 지원자를 배제하는 결과를 도출했다면 단순 여성차별로 볼게 아니라 사회적으로 연구해봐아할 문제 아니냐

[여포신봉선]

저거보면 진짜 ai가 똑똑한데...

[에버시온 랜드]

AI: 차별이라고요? 뭔 개소릴...

[WJBM]

기계는 그냥 효율적으로 뽑았을 뿐인데

[우린굉장해]

현재 직장내 직원들의 업무 효율을 토대로 이력서를 검토한걸까?

[V_solves_everything]

어느 소가 일을 잘하오?
애딸린 취미없는 인남캐가 일을 가장 잘 하오

[이루리시계연구소]

졸라웃기넼ㅋㅋㅋㅋㅋ

[고인형 아서]

학습 데이터에 여성 쿼터제 보정값이 빠졌나보군

[WOONGKUM]

AI 조차 인정하는건가?

[앗쵸우]

역시.갓 울트론 센세..당신이 옳았습니다

[에스마미]

ai가 무슨 차별심이 있겠어요 ㅋㅋ
팩트만 뽑아서 나열한 결과라는거겠죠
차별이라 생각하는건 감성의 영역임

[베르티에]

xxx : 냄져가 프로그래밍해서 젠더감수성 점수를 고려하지 않았네!

[그린버그]

빅데이터로 낸 기계 통계인데 차별일리가 ..

[슈프림양념치킨]

시스템은 지난 10년간 아마존에 제출된 이력서 패턴을 검토해 지원자를 검토하도록 설계됐는데, 프로그램 개발자 대다수가 남자였던 산업적인 특성에 따라 시스템 스스로 '남성 지원자가 더 적합하다'고 학습했기 때문이다.
그 결과 시스템은 '여성 체스 동호회장' 등 '여성'이 들어간 이력서를 배제하고, 여자 대학교를 졸업한 지원자에게 낮은 점수를 매겼다.
아마존은 프로그램을 수정해 성차별적인 요소를 없애고자 했지만 그렇다고 해서 시스템이 다른 방식으로 또 다른 지원자를 차별하지 않는다고 확신할 수 없었다.

==============
기사내용 보면 지난 10년간 제출된 이력서 데이터를 가지고 분석한 결과입니다.
시스템을 수정 해도 또 다른 차별이 생길지 모른다고 결국 아마존은 Ai채용 시스템을 포기하고 개발팀 해산시켰다네요.

[오키나와가면고래상어봐야해]

기사 찾아서 읽어보니 현재 채용되어있는 직원들의 이력서를 데이터로 활용했는데 원래 it업계쪽은 남자가 더 많으니 여자보다 남자를 더 선호한다고 학습을 한거 같네

[오키나와가면고래상어봐야해]

물론 저 빙신같은 기사는 결론이 it업계 성비 불균등이 낳은 사건이라고 하는데 it업계 성비 불균등은 교사 성비 불균등과 마찬가지로 고칠수 없는것인데 그걸 모르네

[언암드]

기계적 효율이 정의가 될수 없는 이유지

[죄수번호-3808409989]

데이터 입력과 출력 연결이 올바르다면 이제 데이터를 조작해야것지 ㅋㅋㅋㅋㅋ

[루리웹-7313396690]

극도로 효율충인 AI가 한쪽만 몰아 뽑는 거만 봐도 어느쪽 효율이 더 좋은지 알수 있는 거 아닌가
반대로 유치원 교사 같은 쪽에 저런 AI 배치 했으면 남자 한 명도 안 뽑혔을 거 같은데

[루리웹-0890957404]

일못하는 사람들에서 가장 많이 겹치는 공통점을 찾았더니
이력서에 여성XXX동호회 가입이었나보징

[파스텔블랙]

스카이넷이 성공하면 남자는 노예로 살아남는건가...

[루리웹-1544692857]

ㅋㅋㅋㅋ