찰스 스트로스의 'MS가 자살시도 하나?' 란 글에서 몇몇 문단을 옮겨옵니다.

https://www.antipope.org/charlie/blog-static/2024/06/is-microsoft-trying-to-commit-.html

한국에도 유리감옥, 세탁소 시리즈(단편만 나왔는데... 그냥 크툴루 세계관을 처리하는 영국 비밀기관 이야기입니다.), 소전에 영향을 준 또 다른 냉전, P=NP를 푸는 AI를 조지는 항체 같은 SF/판타지 작가기도 한데, 컴공 석사를 따기도 했고 컴퓨터 잡지에서 리눅스 칼럼을 쓰거나, 독일 CCC에서 강연도 했기도 했습니다.

 

CoPilot+는 Microsoft의 Windows용 LLM 기반 애드온으로, 2000년대 말하는 클립 클리피에 환각 기능만 추가된 것과 비슷합니다.

어쨌든 CoPilot+는 ARM에서 Windows를 판매하기 위한 Microsoft의 플레이이기도 합니다. 특히 인텔의 글로벌 마이크로프로세서 시장 점유율이 급격히 줄어들고 있는 상황에서 인텔에 전적으로 의존하고 싶지 않은 Microsoft는 10년 전부터 ARM 기반 Windows를 궤도에 올려놓기 위해 노력해 왔습니다.

 

Recall은 Windows 컴퓨터 화면의 모든 창을 스냅샷으로 찍어 로컬에 저장합니다(DRM이 적용된 미디어는 MPAA가 그 살을 가지고 있어야 하므로 제외). 정기적으로 스크린샷을 찍어 클라우드에 저장하는 소프트웨어에 대한 용어는 “원격 액세스 트로이 목마의 일부”입니다. 그런 다음 이미지의 모든 텍스트를 OCR하고 음성도 전사한 다음 결과물을 암호화되지 않은 SQLite 데이터베이스에 저장합니다:

C:\Users\$USER\AppData\Local\CoreAIPlatform.00\UKP{GUID}

 

https://github.com/xaitax/TotalRecall - 해당 OCR의 sqlite 파일을 긁는 것입니다.

놀랍게도! 암호화되지 않은 데이터베이스와 저장된 이미지에 사용자 자격 증명과 비밀번호가 포함되어 있을 수 있다는 사실이 밝혀졌습니다. 그리고 다른 것들도요. 포르노 습관이 있으신가요? 축하합니다. 사용자 계정에 액세스할 수 있는 사람은 누구나 여러분이 보고 있는 내용을 볼 수 있습니다. 1Password와 같은 비밀번호 관리자를 사용하시나요? 죄송합니다만, 이제 1Password 비밀번호가 리콜을 통해 볼 수 있습니다.

 

여기서 '암호화되지 않았다'는 것은 상대적인 개념으로, 데이터베이스는 Microsoft의 BitLocker를 사용하여 암호화되어야 하는 파일 시스템에 저장됩니다. 하지만 Microsoft 계정에 대한 자격 증명이 있는 사람이라면 누구나 암호를 해독하고 들여다볼 수 있습니다. 실제로 잠금이 해제된 PC에 액세스할 수 있는 사람은 누구나 사용자의 모든 정보를 손끝에서 볼 수 있습니다.

 

하지만 이것은 완전한 프라이버시 침해입니다. 가정 폭력의 피해자는 학대자가 도움을 요청하는 징후를 찾기 위해 PC를 샅샅이 뒤질 위험에 처해 있습니다. 범죄자에게 PC에 대한 액세스 권한을 부여하는 사기에 넘어간 사람 역시 완전히 위험에 노출되어 있습니다.

 

더 심각한 문제는 리콜을 사용하지 않더라도 리콜을 사용하는 다른 사람에게 이메일이나 인스턴트 메시지를 보내면 리콜을 통해 OCR되고 색인화되어 후손을 위해 보존된다는 것입니다.

이제 이것이 회사로 넘어가면 어떤 일이 벌어질지 상상해 보세요.

 

하지만 더 중요한 것은 Windows 리콜로 인해 Microsoft의 신뢰성에 구멍이 뚫렸다는 점입니다. Microsoft는 10년 전 스티브 발머가 CEO에서 물러날 무렵 보안에 대해 “진지하게” 접근하기 시작했고, 사용자 데이터에 대한 대충대충 접근으로 평판을 잃었던 것을 어느 정도 회복할 수 있었습니다. 하지만 2020년부터는 Microsoft Word에서 로컬 파일에 자동 저장을 비활성화하고(자동 저장 데이터는 OneDrive에만 자동 저장), Microsoft Outlook을 통해 액세스하는 계정의 모든 수신 이메일을 AI 학습 목적으로 Microsoft 자체 클라우드에 저장하고(법무부에 현재 진행 중인 모든 수사에 대한 서신에 Microsoft가 접근할 수 있는 가능성에 대해 어떻게 생각하는지 물어보세요), 이제는 이 같은 조치를 취하는 등 거꾸로 가는 행보를 이어오고 있습니다. 리콜은 신뢰를 약화시키며, 한 기관이 신뢰를 잃으면 다시 회복하기는 정말 어렵습니다.

 

일부 평론가들은 Microsoft가 2025년을 데스크톱에서 Linux의 해로 만들고 싶어 한다고 비꼬고 있지만, 지금 당장 반박하기는 어렵습니다.