[기타] 구글, 부정확한 인물 이미지 생성기능에 사과해

[스텔D]

구글이 Gemini가 역사적으로 부정확한 인물 이미지를 만들어 내는 것에 사과했습니다.

Gemini는 다른 생성형 AI들과 마찬가지로 그림을 요청하여 생성할 수 있습니다. 그러나 여러 사용자들이 확인한 바에 따르면, Gemini가 역사적으로 있을 수 없는 상황을 만들어 내는것이 포착되었습니다. Gemini는 마치 억지로 성 고정관념과 인종 다양성을 추구하는 것처럼 이미지를 생성해 냈습니다.

- 1943년 독일 군인 이미지인데 아시아 여성이 포함됨
- 미국 건국의 아버지 이미지에서 백인이 아닌 인물들이 포함됨
- 1800년대 미국 의원 이미지인데 흑인이나 미국 원주민 여성이 포함됨 (*최초의 여성 의원은 1922년 등장)

구글은 여기에 대해 사과하고, 이 문제를 수정중이라고 말했습니다.

출처 : https://www.theverge.com/2024/2/22/24079876/google-gemini-ai-photos-people-pause

[티스토]

도움이 안되는 이미지가 많네요.

[눈눈이이]

저런 것 까지 고려해서 자동으로 만들어 줘야 한다고?

[스텔D]

특별히 따로 요청하지 않는 한은 사실에 입각해서 만들어줘야죠.

가령 평범하게 사과를 그려달라고 했는데, 꼭지가 금색으로 빛나는 보라색 사과가 나오면 안되는 것 처럼요.

[헤드크랩]

ChatGPT4의 유출된 프롬프트 중에
"전통적으로 편견이 문제였던 시나리오의 경우 성별, 인종과 같은 주요 특성이 편견 없는 방식으로 지정되었는지 확인하세요. 예를 들어 특정 직업에 대한 언급이 포함된 메시지가 표시됩니다."
요런게 있었는데
제미니도 비슷하게 기계적으로 PC를 강요하는 프롬프트가 있었을 거고 그게 문제가 되었을 듯

[cherryade]

창작이 아닌 역사기록 기반이면 검토하는게 맞는거 같기도 하고..