회사 데이터를 다루는 방식.
Ara가 회사 데이터를 다루는 여섯 가지 방식과, 각각이 어디까지인지를 쉬운 말로 적었습니다.
모든 도구의 스위치는 여러분이 쥡니다
연결된 앱은 제공하는 모든 도구를 스위치와 함께 본인 계정 안에 나열하며, 처음에는 모두 켜져 있습니다. 실행이 스위치를 되돌릴 수는 없습니다. 발송, 삭제, 환불처럼 절대 쓰이지 않았으면 하는 도구는 꺼 두시면 됩니다. 이후 누가 무엇을 설정하든 그대로 꺼져 있습니다.
원하는 앱은 검토 대상으로
통제의 핵심은 스위치입니다. 각자 자기 계정을 연결하고 Ara가 그 계정으로 무엇을 할 수 있는지 도구 단위로 정하며, 그 밖의 것은 실행되지 않습니다. 그 위에서 워크스페이스 관리자는 원하는 앱을 검토 대상으로 두어 모든 변경이 바뀔 내용을 먼저 보여 주고 멤버의 승인을 기다리게 하거나, 앱을 아예 차단할 수 있습니다. 검토는 선택 사항이라, 승인 대기 목록이 읽을 수 있을 만큼 짧게 유지됩니다. 어느 쪽이든 모든 작업은 실행 기록에 남습니다.
전용 샌드박스 안에서 일합니다
모델이 작성한 코드는 저희 API 서버가 아니라 샌드박스에서 실행되며, 샌드박스는 워크스페이스마다 따로 있습니다. 샌드박스의 외부 네트워크 접속은 배포에서 허용 호스트 목록으로 제한하지 않는 한 열려 있습니다. 워크스페이스가 자사 PC를 워크스페이스 컴퓨터로 지정하면 명령은 그 PC에서 실행됩니다.
모델은 비밀 키를 보지 못합니다
Slack 토큰, API 키, 본인 AI 요금제 인증정보, 저장된 웹사이트 비밀번호처럼 저희가 보관하는 인증정보는 AES-256-GCM으로 암호화해 저장합니다. Composio로 연결한 앱의 토큰은 Composio가 보관합니다. 이 중 어느 것도 모델이나 실행 기록에 들어가지 않으며, 앱 토큰과 API 키는 샌드박스에 들어가지 않습니다. 저장된 웹사이트 비밀번호는 예외입니다. 페이지에 입력되는 동안 샌드박스에 기록되므로, 그 순간 샌드박스에서 실행 중인 코드는 읽을 수 있습니다.
웹을 명령이 아니라 데이터로 다룹니다
웹페이지, 이메일·티켓 같은 연결된 앱, 검색된 문서의 내용은 인용된 데이터로 표시되어 모델에 전달되고, 그 내용은 보고할 뿐 따르지 말라는 규칙이 함께 붙습니다. 외부 이벤트로 시작된 실행에는 이 점이 명시적으로 전달되고, 페이로드가 외부로 나가는 무언가를 요구하는 것처럼 보이면 실행 대신 초안만 만들도록 지시합니다. 이것은 심어 둔 문장이 실행을 조종할 위험을 줄일 뿐 없애지는 못합니다. 위의 스위치와 검토가 있는 이유입니다.
저희는 고객 데이터로 모델을 학습하지 않습니다
고객 데이터는 해당 워크스페이스의 업무(다음 작업을 위해 Ara가 기억하는 내용 포함)에만 쓰며, 저희는 이를 AI 모델 학습에 쓰지 않습니다. 요청은 OpenRouter를 거쳐 모델 제공자에게 전달되며, 제공자가 요청을 보관하거나 학습에 쓸 수 있는지는 해당 제공자의 약관과 OpenRouter 계정의 개인정보 설정에 따릅니다. 배포 설정으로 데이터를 보관하는 제공자를 모든 요청에서 제외하게 할 수도 있지만, 기본값은 아닙니다.
틀릴 수 있는 지점
어떤 모델이든 그렇듯 Ara도 틀릴 수 있습니다. 그래서 결과는 거친 단계와 직접 확인할 수 있는 파일을 함께 가져오고, 모든 실행은 기록에 남으며, Ara가 무엇에 닿을 수 있는지는 도구 단위로 여러분이 정합니다.