[아이폰] 애플 CSAM 검열 팩트 체크

[kangdol]

최근 애플이 모든 아이메시지 데이터를 스캔하고 아이클라우드의 모든 파일을 스캔하고 아동 성착취물인지 비교 분석하게 만든다고 논란이 되고 있는데 기사마다 다 말이 다른데다 심지어 백도어 논란까지 있어서 애플의 공식 문서들을 가지고 팩트체크 해보겠습니다.

1. 아이메시지 데이터를 스캔 및 검열하는가?

 반은 맞고 반은 틀린 경우, 이건 아동 성 착취물을 검열하기 위함이 아닌 단순 아동 보호 기능으로 이번일과 관련이 없습니다

<아이메시지 스캔 및 검열 작동모습 단순 아동 보호 기능이다.(출처 애플 공홈)>

이상한 사진이 온 것 같으면 일단 막고 아이가 보겠다 하면 부모님한테 알림가는 기능으로, 이런건 애플 말고도 각종 아동 보호앱에서 기본적으로 제공하는 기능입니다. 

물론 이건 부모가 켜야만 작동하며 논란이 될 수는 있어도 이번일과 같이 엮어질 사항은 아닙니다.

2. 아이클라우드의 모든 파일을 스캔하는가?

 이건 맞는 말입니다. 심지어 지금까지 계속 해오던 일로 이건 마소도, 구글도 다 해온 것입니다., 다만 그 방식이 좀 다른데 좀 설명하기 어려우니 그림으로 설명하겠습니다.

<기존 다른 회사들의 데이터 이용방식(출처:PPT로 자작)>

아는 분들도 많겠지만 기존 다른 회사들(특히 구글)은 사용자가 메일을 받든 직접 업로드를 하든 일단 자기들 손에 들어오면 그걸 분석해서 ai 학습에 쓰거나 이번에 문제가 되는 것 처럼 아동 착취물을 검열하는 등 이곳 저곳에 쓰고 있습니다. 일례로 지금 구글 계정 설정이나 프라이버시 설정 들어가 보면 기본값으로 구글에 XX한 데이터 제공 옵션이 다 켜져 있습니다 그러나 애플은 좀 다릅니다.

<애플의 방식(출처:역시 자작)>

얘들은 말만하면 프라이버시 프라이버시 하는 애들인지라 딱 검열을 위해서만 데이터를 스캔합니다 물론 이것도 사진의 모습을 보고 어? 이거 어린애네? 이거 완전 아동 성범죄자네? 하고 비교하는 것이 아닌

<오늘 참고한 애플 공식 문서 pdf 파일의 해쉬(시) 값>

모든 파일은 이렇게 무작위의 문자열로 이루어진 고유의 해쉬값을 가지고 있는데 아주 조금의 차이로도(문서 파일을 예로 들면 점 하나 차이 같이 아주 적은 차이) 그 값이 바뀌어 버리는 특징을 가지고 있습니다.  이 원리를 이용해서 전세계 수사기관이 그동안 잡아들인 아동 성범죄자들의 직박구리 폴더의 내용물들을 가져다가 데이터베이스로 만들어서 각종 통신사, 클라우드 회사, 기타 등등 it 회사들에 이 해쉬값들을 제공, 어 저거랑 같은거네? 범죄자네?? 경찰 아저씨!! 하고 검열하는 것입니다. 역시 이해를 위해 그림으로 설명하자면

<아동 착취물 검열의 작동 원리(출처:이젠 알잖아? 자작인거)>

대충 이런 원리입니다. 물론 ai 자동화 했다가 오류나면 어마어마한 일이 벌어짐으로 해쉬값이 동일하다고 검출되면 사람이 직접 확인하고 경찰에 신고하도록 되어있습니다.

결론적으로는 애플은 이번일로 욕을 먹기엔 좀 억울한 상황입니다.

3. 그래서 이번에 기기 내부를 스캔하는건 뭡니까?

 일단 이번 방식의 원리부터 그림으로 설명하겠습니다.

먼저 전세계 수사기관이 제공한 데이터를 사용하고 그것과 일치하면 신고하는건 동일합니다. 그러나 파일을 비교하는 과정을 기존에는 애플 서버에서 처리했지만, 이 방식에서는 비교용 해쉬 데이터를 암호화 및 변조해서 기기에 제공하고 그 데이터를 가지고 기기에서 자체 검열 후 서버에 결과값을(일종의 성적표) 동봉해서 업로드 하는 방식입니다. 애플은 아동 착취물이 아닌 이상 결과값에만 접근이 가능하며(착취물 데이터는 수사기관이 확보해서 애플한테 다시 줌) 프라이버시에 한해서는 기존보다 더 나은 방식으로 보입니다..

4. 알겠고 그럼 내 기기에 있는 사진 싹다 아무때나 스캔하는거 아닌가요?

애플 공식 문서를 보면 이런 단락이 있습니다.

<모든 사진을 분석하냐는 질문에 대한 애플의 답변(애플 공식 문서 중 발췌)>

번역 하면 다음과 같습니다

이것은(아동 착취물 기기내 검열) 애플이 앞으로 내 아이폰에 저장된 모든 사진을 스캔한다는 의미인가요? 

아니요. 이 기능은 유저가 아이클라우드에 업로드 하기로 결정한 사진에서만 작동하도록 디자인 되었습니다. 이후에도 애플은 이미 알려진 아동 착취물을 저장하는 계정에서 저장하는 사진과, 알려진 아동 착취물과 일치하는 이미지만 (ai가)학습합니다. 아이클라우드 사진이 비활성화 된 유저에게는 작동하지 않으며 이 기능은 아이폰의 개인 사진 라이브러리에서 작동하지 않습니다.

요약하자면 아이클라우드 올라갈 사진만 검사하고 클라우드 자동업로드 끄면 작동 안한다는 것으로 걱정되면 그냥 끄고 수동으로 NAS 같은 곳에 업로드 하시면 됩니다.

결론 겸 한줄요약

제대로 알아보지도 않고 선동한 기래기들과 이해하지 못한 대중들의 오해로 이루어진 혼란.

출처 : 애플 공홈 및 공식 문서 여러개 https:/www.apple.com/child-safety/pdf/Expanded_Protections_for_Children_Frequently_Asked_Questions.pdf https:/www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf유게에 본인이 쓴 글 정보게에 맞게 가공 https:/bbs.ruliweb.com/community

[rlackdals91]

애플 “CSAM”을 모두가 “시샘”해

[루비루우비]

여기도 찔리는 사람 많아보이던데
무엇보다 이미 뇌피셜로 결론만들어낸 사람들은 이렇게 해도 안봄

[kofluvs]

스토리지도 긁을꺼라고 했던건 누가 먼저 이야기했는가

[야무진야무치]

멍청한 넷문가들 ㅋㅋㅋ

[케프]

보안과 프라이버시를 강조하던 회사인만큼
다른 회사들과 다른 반응이 나오는듯

[LemonCocoa]

저는 선택할 수 있다면 종단간 암호화 포기하고 그냥 아이클라우드 서버에서 확인하는 것을 선택할래요.

[매생이굴국밥]

CSAM 자체가 기술적으로 만들다 만 수준인게 문제지 검사 자체는 클라우드 대부분이 하고있음

[루리웹-6076285272]

? 기술적으로 어디가 만들다만 수준인가요?

[매생이굴국밥]

CSAM은 해시값 대조를 위해 뉴럴해시를 이용하는데 이게 의도적으로 원하는 해시값을 만들어 충돌을 일으키기 쉽고 조작해서 다른 해시값으로 변조할수도 있습니다. 같은 사진을 다른사진으로 인식하게 만드는거야 기존 해시값도 그러기 쉬우니 별 문제는 아니지만 아예 다른사진을 같은 사진인양 오인시키기 쉽다는건 보안측면에서 상당히 하자가 있습니다.

[squarepusher]

여기나 클0앙이나. 분노하는 사람들이 하나같이 평소 네임드들이 섞여있고 선택적 분노하는거 보면.
이전 구글 마소 기사때도 보안의 ㅂ자라도 꺼냈으면 몰라. 아동범죄는 무조건 응원입니다! 하던 사람들이 주어가 애플로 바뀌니 갑자기 온갖 가정하며 극대노.

[루리웹-6076285272]

이렇게 정성들여 정리해줘도 빼액거림 ㅋㅋㅋ
진짜 멍청한것들 노답

[양파양파]

애플은 악이고 애플이 하는짓은 다 위선으로 뒤덮인 나쁜짓이어야만 하기 때문에...

[인생2회차어린이]

한국에서 애플은 주적 급이기 때문에 나쁜 놈이어야 함

[페시미스트-미국춤™]

https://youtu.be/dq1RN4UQYM4

[정예아쿠시즈교도]

존나 자세하게 써놓은 것처럼 말하는데 정작 중요한 해시 문제는 쏙 뺐네요. 애플의 해시 생성 방식이 개판이라 전혀 다른 이미지로도 문제 있는 해시가 뽑힐 가능성이 있어 결국 적용하지 않겠다고 했는데 왜 그 부분은 빼나요.

[페시미스트-미국춤™]

상위 추천 준 댓글보면....

[루리웹-2686965128]

코드지식이 있는 사람이 이미 뉴럴써서 생성한거 원본에 가깝게 복구한 사례도 있지 않았나요? 사실상 그런 취약점 때문에 취소한거지 해시값 대조해서 클라우드에 업로딩되는 사진들 스캔하는것 자체는 기레기들 선동으로 논란이 될지언정 애플이 철회까지 할 일은 아니라고 생각해서요.

[정예아쿠시즈교도]

님말이 맞죠. 만약 그 부분에 문제가 없었으면 구글, 마소 사례가 있으니 그냥 해도 되었을 겁니다.

하지만, 이것도 애플의 참 나쁜 습관인게, 클라우드에 올릴 사진만 "선택적으로" 검열 하겠다고 했는데, 이 말만 안 했으면 되었을 겁니다.
아이폰은 폴더나 앨범 별로 올릴지 말지 설정하는 부분이 없거든요.
결국 검열 당하기 싫으면 아이클라우드 쓰지마 콰아아아아아 하는 거랑 같은 말입니다.
애플의 기술이 어떻게 적용되든간에 그걸 사용자가 세세하게 컨트롤 할 수 없으면 결국 다 내가 검사해보겠다 라는 것과 뭐가 다를까요.

[루리웹-2686965128]

아이폰 약 5년 정도 쓴 것 같은데, 확실히 아이클라우드가 한번 결제해놓고 사진이고 동영상으로 자동으로 다 올라가게 동기화 걸어두는게 편하다가도 앨범 별로 따로 나눠서 이건 로컬에 저장하고 이건 클라우드로 올리고 하는 자세한 부분 설정이 없이 동기화를 하거나 / 안 하거나 의 이지선다밖에 없어 불편할 때가 종종 있더군요. 만약에 이번 건에서 애플이 물러서지 않고 CSAM을 밀어붙였다면 아마 이 부분에서도 말이 꽤 많이 나왔을 것 같아요. 그냥 편리하니까 다들 크게 의식하지 않고 잊어버리고 쓰지만 일단 그런 부분에서 민감하게 느껴진다면 폴더별/앨범 묶음으로 나눠서 올릴 수 없고 올리거나 안 올리거나만 선택해야 한다는건 꽤나 큰 문제점으로 다가왔을 테니까요.

[Aphonopelma]

팩트체크한다면서 논란의 당사자인 기업 입장의 내용만 퍼온 것이 유머

[돌아온 한글97]

이대로라면 그냥 클라우드에 안올리면 어찌할 방법이 없다는거 아닌가요?

[kangdol]

그런 사람 잡는건 경찰의 일이죠

[루리웹-4670062078]

애플문서분석이 어떻게 애플주장에대한 팩트체크가되는거임?

[kangdol]

팩트 체크 하려는 거는 애플이 무조건 폰의 데이터를 전부 스캔한다 vs 아니다 클라우드 올라가는 것만 스캔한다가 문제인거라 충분히 됩니다

[初音未来]

애플 주장에 대한 팩트체크가 아니라 다른 사람들이 주장하는 내용과 애플이 주장하는 내용의 비교를 통한 팩트체크죠

[페시미스트-미국춤™]

중국을 그렇게 헐게 빠는 기업들이 과연....기업에게 정직이란거 바래면 안 됌

[Yajang]

반대하거나 하는건 아닌데 아이클라우드에 업로드 하는사진이나 폴더를 선택 할 수 있었나요? 아이클라우드 동기화 켜면 사진에 있는건 다 업로드 하는거 아니었나..

[루비루우비]

동기화 끄면 됩니다

[배천재]

이게 무슨 팩트체크나? 애플 말을 그냥 앵무새처럼 반복하는건데? 애플이 만든 뉴럴해시가 오작동할 가능성 따위는 아예 쏙 빼놓고.

[루리웹-4516302812]

같은 방법으로 중국의 검열도 멀쩡해 보이게 할 수 있을듯.

[알면용취^^]

ms는 클라우드에서 머신러닝 직접적으로 안하는 걸로 아는데... 굳이 말하자면 애플쪽에 가까운 걸로...

구글하고 비슷하게 동의하지 않으면 이용 못하는 정책이 맞나요?

[알면용취^^]

흠, 한 번 검색을 해봤는데 ms가 저기에 뜬금없이 끼는 건 역시 아닌 것 같은데요. 허위사실에 가깝지 싶네요. 구글은 어느정도 개인정보 제공을 대가로 서비스를 제공하는 구조이니 확실히 좀 말 많긴 하지만...

[월돚하면서루리웹하기]

팩트체크특)팩트체크 아님

[오컬트마니아]

팩트체크라면서 교차검증없이 한 회사에서 나온 증거만 갖고 하는게 맞는거임?

[이도로]

팩트 추가 : 해시라고 하는 건 방대한 데이터를 몇백바이트밖에 안되는 값으로 요약하는 건데, 물론 원본 데이터를 조금이라도 손을 보면 해시값이 달라지는 건 당연하지만 역으로 전혀 다른 데이터가 우연히 같은 해시값을 갖게 되는 것도 가능하다.
따라서 해시값 하나만을 믿고 데이터의 동일성을 논해선 안된다.

[이도로]

일반적으로 해시는 바이너리 데이터로 나오고, 문자열로 표시된 건 이걸 16진수로 변환해서 보여주기때문에 보통은 0~9, A~F까지만 사용합니다. 그리고 경우의 수는 의미가 없는 게, 데이터의 크기가 크면 클수록 그 경우의 수는 더 방대하게 늘어나기 때문이죠.

[이도로]

해시 데이터가 크면 클수록 더 많은 경우의 수를 가지기때문에 중복 확률이 낮아지는 건 맞습니다만, 실제 데이터가 가지는 경우의 수는 그보다 훨씬 더 많기때문에(해시의 경우는 길이 제한을 갖고 있지만 실제 데이터는 길이마저 들쭉날쭉합니다.) 결국 중복은 피할 수가 없습니다.
그래서 보통 해시값은 데이터의 동일성 여부를 판단하기보다는 원본 데이터가 훼손되었는지 확인하는 용도로 주로 쓰이고, 그것도 100% 로 신뢰하지는 못합니다.

[고자팝]

공홈 설명에도 몇 개 이상 쌓이면 애플이 직접 눈으로 확인한다고 까지는 적혀있어요. 애플이 임의로 확인하는 건 불가능하고 시스템상 임계점에 도달하기 전까지는 암호화된 상태라 애플도 수사기관도 열람이 불가능하다고... 애플 문서에는 30개라고 써져있진 않고 연간 1조분의 1명 정도만 오인해서 잡아낼 정도로 타이트하게 설정됐다는 식으로 설명하고 있는데... 우연히 아동성착취물과 해시가 겹치는 경우가 있다고 해도 그런 이미지가 한 사람 폰에 수십장씩 있을 가능성은 거의 없다고 봐도 무방하겠죠.

[정예아쿠시즈교도]

그건 애플의 해시가 수학적으로 증명이 되었을 때 가능합니다.
문제는 애플 해시가 “사람 손으로 며칠 만에 만든 데이터에 의해 충돌이 났다”는데 있습니다.
저 위에 있는 SHA-1도 구글이 유명 대학 연구진들과 협업하여 충돌 가능성이 있다고 증명해 냈는데 그래도 구글 정도의 시스템 규모의 컴퓨팅이 있어야 110년만에 깨는 수준이거든요. 하지만 가능성이 밝혀진 순간 압축한 파일이 이 파일이 맞아 정도로나 쓰지 진짜 중요한 암호화가 필요한 부분에서는 안 씁니다.
기계의 힘을 빌려도 110년 걸리는 암호화를 안 쓰는데 사람 손으로 만든 데이터에 며칠만에 뚫린 애플 방식은 너무 치명적이죠.

[고자팝]

그렇다면 확실히 문제가 있겠네요... 뭐 연기하겠다고 했으니 잘 보완해서 나오길 바라는 수밖에...; 자세한 설명 감사합니다

[페시미스트-미국춤™]

이까 30개 이상 추천 받은 댓글 다 사라졌네. 하단부 댓글이 작성자글에 팩폭하니 ㅋㅋ

[선택받은민초단]

???: 그래서 아이폰 안 쓸꺼야? ㅎㅎ

[empty_0711]

그냥 애플제품 안쓰면 되는겁니다. 뭔 말들이 이리도 많아 ㅋㅋㅋ 안드유져들 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[대한제국군]

해시 생성이 단지 뉴럴해시로만 분석되면 문제되는거 아닌가요.??
뭔가 확실한 프로세스와 메커니즘으로 만들어야 할텐데 분석을 개판으로 해놓고 신뢰성 있을거라고 기대하는 것도 문제인데..

[루리웹-0757224458]

안드로이드 쓰는 분들은 자발적으로 님들 자료를 다 구글에 자동으로 줬으면서 선택적 조사를 한다는 애플에 왜 화내는 중인가요?? 아동 착취물 안보면 되는거 아님?? 그런거 봐서 저거 도입 되면 곤란한가요 ㅋ 이미 님들 정보는 구글이 가져갔어요 화내지 마세요 ㅋ

[낙석주의]

요즘은 사용설명서 받아쓰기도 팩트체크라고 하는구나

[Portable]

중국몽 꾸다가 중국이 되어버린