- 하이브리드 아키텍처: 인클레이브를 통한 로컬 실행 및 원격 증명을 통한 봉인된 클라우드(TPU를 통한 TIE)로의 점프.
- 검증 가능한 개인 정보 보호: 각 작업에만 사용되는 데이터, 종단 간 암호화, 블라인드 토큰을 사용한 IP 릴레이, 외부 감사.
- Pixel에서 실제 경험을 즐겨보세요: Magic Cue, 다국어 레코더, 검색을 위한 원, 번역 등 사용자 제어가 가능한 다양한 기능이 있습니다.
인공지능은 우리 일상생활의 필수적인 부분이 되었지만, 그와 함께 개인정보 보호에 대한 우려도 제기되고 있습니다. 모든 추천, 요약, 스마트 알림은 개인 데이터에 기반하기 때문입니다. 이러한 상황에서 구글은 개인정보를 무분별하게 공개하지 않고도 강력한 모델을 활용할 수 있도록 설계된 혁신적인 접근 방식인 '프라이빗 AI 컴퓨트'를 선보입니다.
먼저 명확히 말씀드리자면, 프라이빗 AI 컴퓨트(PAC)는 일반적인 앱이나 서비스가 아닙니다 . PAC는 픽셀 생태계 내에서, 그리고 점진적으로 더 많은 기기에서 특정 AI 작업이 실행되는 위치와 방식을 재정의하는 기술 프레임워크입니다. 하드웨어 성능이 허용하는 경우, 해당 기능은 로컬에서 실행되고, 더 많은 처리 능력이 필요한 경우 연산은 안전한 클라우드로 이동됩니다. 목표는 모바일 기기와 클라우드 모두에서 동일한 수준의 개인정보 보호 조치가 적용되도록 하는 것입니다.
Private AI Compute란 무엇이고 왜 지금 도입되는 걸까요?
구글의 제안은 성능과 기밀성 사이의 균형을 맞추는 것을 목표로 합니다. 즉, 식별 가능한 정보를 노출하지 않고 각 작업에 필요한 정보만 처리하는 것입니다 . 기기에 충분한 성능이 있다면 모델은 기기 자체에서 실행되고, 그렇지 않은 경우에는 하드웨어 제어 및 암호화 기능을 갖춘 안전한 클라우드 환경으로 작업이 위임됩니다.
이 접근 방식은 불편한 현실을 해결합니다. 오늘날 대부분의 인기 있는 AI는 서버에서 실행되며, 사용자 데이터는 일시적으로 저장되거나 비활성화되지 않은 경우 학습에 사용될 수도 있습니다. PAC는 로컬 처리와 유사한 이점(낮은 지연 시간과 뛰어난 제어 기능)을 제공하면서도 복잡한 시나리오에서 Gemini의 강력한 성능을 발휘하도록 설계되었습니다.
Google은 PAC로 전송되는 정보가 사용자 가 요청한 작업(예: 메모 요약 또는 대화 번역)에만 사용되며 작업 완료 후 삭제된다고 보장합니다. 또한 사용자는 시스템 내 명시적인 스위치와 권한 설정을 통해 어떤 기능이 프라이빗 클라우드를 사용할 수 있고 어떤 기능은 사용할 수 없는지 직접 제어할 수 있습니다.
이 결과는 마치 클라우드에 "보이지 않는 보조 프로세서"가 있는 것처럼 작동하는 휴대폰과 컴퓨터를 시사합니다. 필요할 때 더 빠른 속도를 제공하고, 검증 가능한 개인정보 보호는 필수 조건입니다 . 이는 단지 일회성 움직임이 아닙니다. 최첨단 AI 기술을 희생하지 않고 보안을 강화하려는 업계의 분명한 추세가 나타나고 있습니다.
기술 아키텍처: 장치에서 밀폐형 클라우드까지
모바일 기기에 적합한 작업을 위해 Google은 격리된 실행 환경을 구축했습니다. 바로 기기 상의 Titanium Intelligence Enclave 입니다. 이는 운영 체제 및 다른 앱과 분리된 보호된 공간입니다. 이곳에서 데이터는 전송 중일 때와 저장 시 모두 암호화되며, 원격 인증을 통해 소프트웨어와 하드웨어가 예상대로 작동 하고 변조되지 않았음을 확인합니다. 따라서 Google을 포함한 누구도 내부에서 무슨 일이 일어나고 있는지 엿볼 수 없습니다.
한편, 제미니 나노 처럼 로컬 사용에 최적화된 모델은 기기를 벗어나지 않고도 맥락을 파악하고 빠른 답변을 제공합니다. '원형으로 검색'이나 일부 녹음 요약과 같은 기능의 경우, 휴대폰은 사용 패턴을 학습하는 자체적인 개인 AI 역할을 하지만, 학습한 내용을 외부에 노출하지는 않습니다.
작업에 더 많은 연산 능력이 요구될 경우 프라이빗 클라우드가 활용됩니다. 이 단계에서는 모든 작업이 Google 인프라의 하드웨어 인클레이브, 특히 맞춤형 TPU에 설치된 Titanium Intelligence Enclave(TIE) 내에서 실행됩니다 . 데이터 전송을 허용하기 전에 시스템은 원격 인증/확인 절차를 수행하여 인클레이브가 안전하고 올바른 바이너리가 실행 중이며 환경이 보안 정책을 준수하는지 확인합니다.
구글은 보안 외에도 대중의 신뢰를 강화하는 세 가지 핵심 요소 로 아키텍처를 요약합니다 .
- 암호화 격리: 처리는 검증된 인클레이브에서 이루어지며, 운영자는 일반 텍스트 데이터에 액세스할 수 없습니다.
- 명시적 권한사용자는 어떤 기능이 PAC를 사용할 수 있는지 결정합니다. 동의 없이는 아무것도 공개되지 않습니다.
- 기술적 투명성"블랙박스"를 피하기 위한 문서화, 감사 및 구현 세부 사항.
위에서 설명한 내용 외에도 PAC는 추가적인 보안 계층을 포함합니다. 내부적으로 '보그 프라임(Borg Prime)' 으로 알려진 제어 서비스는 민감한 연산 작업을 승인하기 전에 인증 증명을 검증합니다. 요청과 특정 사용자를 분리하기 위해 시스템은 클라우드플레어(Cloudflare) 및 패스트리(Fastly)와 같은 제3자를 통해 요청을 라우팅하는 IP 블라인딩 릴레이 와 블라인드 토큰(블라인드 RSA)을 사용합니다 . 따라서 시스템 내부에서도 특정 콘텐츠와 특정 사용자를 연결하기 어렵습니다.
데이터 전송 및 임시 저장은 종단 간 암호화로 보호되며, 작업이 완료되면 데이터는 삭제됩니다 . 이러한 모든 과정은 구글이 발표한 보안 조치인 안전한 AI 프레임워크 , AI 원칙 , 그리고 구글 개인정보보호 원칙 에 의해 뒷받침되며 , 이는 운영 보안에 대한 공통 표준을 제시합니다.
신뢰를 구축하기 위해 구글은 상세한 기술 문서를 제공하고, 외부 감사를 허용하며, 연구자들이 검토할 수 있도록 시스템 코드의 일부를 공개하는 데 전념하고 있습니다 . 이는 개인정보 보호가 단순한 약속이 아니라 검증 및 감사가 가능한 것이라는 분명한 메시지를 전달합니다.
Pixel에서 실제 사례를 통해 어떤 기능을 사용할 수 있습니까?
이러한 접근 방식의 이점을 누릴 수 있는 첫 번째 기능 중 하나는 매직 큐(Magic Cue) 입니다 . 이 상황별 도우미는 화면에 표시되는 내용(이메일, 캘린더, 지도, 메시지)을 기반으로 추천 항목을 생성하고 필요할 때 정확하게 표시합니다. PAC를 사용하면 이러한 추천 항목은 사용자의 콘텐츠를 노출하지 않고 작업에 따라 로컬 저장소 또는 프라이빗 클라우드를 활용하여 계산됩니다.
레코더 앱 은 여러 언어로 자동 요약 기능을 제공하여 상당한 이점을 얻습니다. 민감한 정보가 포함될 수 있는 녹취록은 PAC의 보호 계층을 통해 처리되므로 사용자가 요청한 특정 요약 에만 사용되고 완료 후 즉시 삭제됩니다. 사용자는 최종 결과물만 보유하게 되며, 서버에 데이터 기록이 남지 않습니다.
구글은 또한 픽셀에서 이미 상징적인 기능이었던 ' 원형으로 검색' 과 같은 기능을 홍보하고 있습니다 . 문맥 인식은 가능한 한 로컬에서 실행되며, 더 고급 모델이 필요한 경우에는 개인 클라우드에서 사용되어 개인 정보 보호를 유지합니다.
다른 실용적인 예로는 실시간 번역 , 대화에서 더욱 자연스러운 AI 응답, 그리고 시스템이 보고 있는 정보와 사용자의 상황을 결합하여 필요한 단서를 제공하는 능동적인 의사 결정 지원 등이 있습니다. 초기에는 픽셀 10 이 이러한 경험을 선도할 것입니다.
이 생태계는 일상생활에 유용한 기능들을 추가합니다. 예를 들어, 불필요한 알림을 줄이고 중요한 내용에 집중할 수 있도록 스마트 알림 요약 기능을 제공하며, 메시지 앱에서 Gemini를 사용하여 더 나은 어조로 텍스트를 수정할 수 있도록 지원합니다 . 또한 외부 앱 없이 고급 사진 편집 도구를 제공하고, 장거리 여행을 위해 데이터 사용량을 절약할 수 있는 Google 지도 앱 도 있습니다. 이 모든 것은 더 많은 도움과 더 쉬운 사용 경험, 그리고 개인정보 보호를 설계 원칙으로 삼는다는 하나의 목표를 향해 나아가고 있습니다.
통제, 검증 가능한 개인 정보 보호 및 독립적인 감사
PAC에서는 사용자가 모든 것을 제어할 수 있습니다 . 허가 없이는 아무것도 전송되지 않습니다 . 안드로이드는 개인 클라우드를 사용하는 기능을 활성화 또는 비활성화할 수 있는 토글 버튼을 제공하며, 특정 작업에 개인 클라우드 사용이 필요할 경우 명확한 알림을 표시합니다. 핵심은 간단합니다. 휴대폰이 무엇을 어떤 조건으로 공유할지 사용자가 직접 결정하는 것입니다.
구글은 기술 가이드, 외부 검토, 핵심 부분 코드 공개 등 공개적이고 검증 가능한 정보를 플랫폼과 함께 제공하여 독립적인 연구자들이 시스템 구축 방식을 검토할 수 있도록 합니다. 이는 맹목적인 믿음이 아니라 검증 가능한 증거 에 기반한 것입니다.
실제로 해당 아키텍처는 사이버 보안 회사인 NCC 그룹 의 검토를 거쳤습니다 . NCC 그룹의 공개 보고서에 따르면, 이 설계는 악의적인 침입자(일탈적인 직원에 의한 위험 포함)로부터 강력한 보호 기능을 제공하며, 온프레미스 컴퓨팅의 보안 수준을 클라우드 실행 수준에 가깝게 끌어올리는 데 성공했다고 결론지었습니다. 또한 피할 수 없는 한계점도 지적했는데, 만약 구글 전체 조직이 규칙을 어기기로 결정한다면 하드웨어와 인증 시스템 모두를 통제할 수 있다는 점입니다. 그럼에도 불구하고 NCC 그룹은 PAC를 현재 클라우드 개인정보 보호를 위한 " 최적의 실행 가능한 모델 "이라고 평가했습니다.
이번 검토에서는 위험도가 낮은 몇 가지 취약점이 발견되었는데, 특히 IP 릴레이에서 타이밍 관련 사이드 채널 취약점이 지적되었습니다. 이론적으로 이 취약점을 이용하면 특정 조건에서 사용자를 재식별할 수 있습니다. 구글은 실제 트래픽의 "잡음"과 완화 조치로 인해 이러한 방식은 현실적으로 불가능하며, 패치와 지속적인 개선을 통해 설계를 강화할 것이라고 주장 합니다.
PAC의 핵심적인 장점 중 하나는 사용자가 안심하고 사용할 수 있도록 특정 작업에 필요한 데이터만 사용하고 작업 완료 시 데이터를 삭제한다는 점입니다 . 또한, 모든 통신은 기기와 서버 사이트 간, 그리고 서버 네트워크 내부 모두에서 암호화되어 전송 중 및 저장된 데이터 모두에서 공격 가능성을 최소화합니다.
생태계와 비교: 더욱 개인화된 AI를 향해
Pixel 10 스마트폰은 PAC를 심층적으로 통합하여 Magic Cue, 즉시 번역, 더욱 정확한 음성 인식 및 원활한 응답 기능을 대폭 개선했습니다. 구글은 이 아키텍처를 다른 기기와 서비스로 점진적으로 확장하고 , 가장 중요한 애플리케이션에 로컬 및 클라우드 모델을 결합할 것이라고 이미 발표했습니다.
이러한 흐름을 따르는 것은 그들만이 아닙니다. 애플은 애플 인텔리전스의 암호화 클라우드인 프라이빗 클라우드 컴퓨팅으로 길을 열었고, 원플러스와 오포 같은 제조업체들은 기기와 암호화된 환경 간에 작업을 분산하는 하이브리드 플랫폼인 프라이빗 컴퓨팅 클라우드를 선택했습니다. 분명한 것은 강력한 AI와 개인정보 보호가 모두 중요하다는 점입니다.
경쟁을 넘어 구글은 유럽 및 미국 규정에 부합하는 방향, 즉 블랙박스를 줄이고 기술적 투명성을 높이는 방향을 추구하고 있습니다. 따라서 감사, 원격 인증, 가시적인 통제에 중점을 두고 있습니다. 실제로 PAC는 기술적 진화인 동시에 민감한 정보를 악용하지 않고도 AI 분야에서 경쟁할 수 있음을 보여주는 전략적 움직임 입니다.
방향은 분명합니다. 맥락을 이해하고, 요약하고, 번역하고, 정확한 추천을 제공하는 AI 비서를 원한다면, 기능과 안전장치 사이의 균형을 맞춰야 합니다. 구글은 프라이빗 AI 컴퓨트를 통해 사용자가 의견을 제시하고 기술에 책임을 질 수 있는 , 유용하고 즉각적이며 점점 더 개인 정보 보호에 중점을 둔 AI를 구현하고자 합니다.
