미국에서 한 아버지가 아들의 성기 부위에서 이상한 걸 발견하고 의사에게 문의했습니다. 병원에선 코로나 때문에 올 수 없으니 해당 부위의 사진을 찍어 보내라 안내했고, 아버지는 그대로 했으며, 병원에선 처방을 줬습니다.
그런데 그 사진이 구글 클라우드에 동기화되면서 구글의 알고리즘이 아동의 성적인 데이터로 판단하고, 아버지의 구글 계정과 클라우드, 연락처 등을 전부 밴해버렸습니다. 또 경찰에 연락까지 했지요.
아버지는 경찰에 설명을 하고 병원에서 증거 자료도 받아 구글에게 제출했으나, 구글은 아몰랑 하고 배째는 중입니다.
구글의 AI 처리가 얼마나 개판인지는 애드센스 이야기를 하면서 여러번 썼고요.
기글도 말 섞기 싫은 사람이면 그냥 밴해버리는데, 당사자 입장에선 억울하다고 주장할 수 있겠지만 어쨌건 기글은 필수품이 아니잖아요. 꼬우면 다른 사이트 가면 되는걸요.
하지만 요새 구글 계정은 거의 생활 필수품이나 다름 없는데, 이런 걸 일개 기업의 투명하지 않은 일처리에 의존해야 하는 건 문제가 있다고 생각되네요.