구글과 직쏘는 머신 러닝을 이용해 실시간으로 웹의 문서를 평가하는 API를 발표했습니다. 이름하여 Perspective, 게시물의 표현 수위(toxicity)를 평가해 점수를 메긴다고 합니다.
최근 인터넷에서 차별적인 표현을 쓴 글이 문제가 되면서 대형 기업이 대책을 세우게 됐는데, Perspective는 미리 사람이 평가한 수십만건의 폭언 샘플로 학습하고, 그 결과에 따라 점수를 메깁니다. 여기에서 폭언이라 생각되는 걸 추츨해 실제 폭언인지를 선별합니다.
위키디피아 영문판과 뉴욕 타임스에서 시범 운용 중이며, 더 많은 매체에서 운용해 샘플을 추가 확보, 정밀도를 높일 것으로 기대됩니다. 공개는 올해 안.