대화창에 넣은 내용은 내 손을 떠납니다. 절대 넣지 말아야 할 정보와, 대신 안전하게 묻는 방법을 정리했습니다.
대화창에 적은 글은 내 컴퓨터 안에 머무는 것이 아니라 서비스 회사의 서버로 보내져 처리되고, 대개 일정 기간 저장됩니다. 서비스와 요금제, 설정에 따라 그 내용이 모델을 개선하는 학습에 쓰일 수 있고, 안전 점검을 위해 사람이 일부 대화를 검토할 수도 있습니다. 이런 조건은 서비스마다 다르고 약관이 바뀌면서 달라지기도 합니다. 그래서 가장 안전한 기준은 단순합니다. 낯선 사람에게 보여 줘도 괜찮은 내용만 넣는다고 생각하는 것입니다.
아래 정보는 한 번 새어 나가면 되돌리기 어렵거나 곧바로 피해로 이어집니다. 서류를 정리해 달라며 사진이나 파일을 통째로 올릴 때 이런 정보가 함께 들어가는 경우가 많으니, 올리기 전에 가리거나 지운 뒤 올리세요. 내 정보뿐 아니라 가족, 고객, 동료의 정보도 마찬가지입니다.
2023년에는 한 대기업에서 직원들이 사내 소스 코드와 회의 내용을 대화형 인공지능에 입력한 일이 알려지면서, 그 회사를 비롯한 여러 기업이 사내 사용을 제한하거나 지침을 만들었습니다. 같은 해 한 서비스에서는 오류로 다른 사용자의 대화 제목 일부가 보이는 일도 있었습니다. 둘 다 나쁜 의도가 있어서가 아니라 편리해서 넣은 정보, 혹은 회사 쪽 실수에서 생긴 일입니다. 내가 아무리 조심해도 서비스 쪽 사고는 막을 수 없으니, 처음부터 넣지 않는 것이 유일한 확실한 방법입니다.
민감한 일도 방법을 조금 바꾸면 도움을 받을 수 있습니다. 핵심은 실제 정보 대신 구조와 문제만 전달하는 것입니다. 이름은 'ㄱ씨', '거래처 갑'처럼 바꾸고, 금액과 날짜는 비슷한 크기의 다른 숫자로 바꿉니다. 소스 코드라면 문제가 되는 부분만 일반적인 예제로 다시 써서 묻고, 계약서라면 '이런 조항이 있을 때 확인할 점'처럼 조항의 성격만 묻습니다. 바꾼 원본과 결과를 나란히 놓고 차이를 보면 실제 정보가 남아 있지 않은지 점검하기 쉽습니다.
대부분의 서비스에는 대화를 학습에 쓰지 않도록 하는 설정, 대화 기록을 지우는 기능, 일정 기간 뒤 자동으로 지우는 기능 등이 있습니다. 이름과 위치는 서비스마다 다르니 개인정보 설정 화면을 한 번 훑어보세요. 공유 기능으로 만든 대화 링크는 링크를 아는 누구나 볼 수 있고, 이런 링크가 검색 결과에 노출된 사례도 있었습니다. 다만 설정은 보조 수단일 뿐입니다. 학습에 쓰지 않는다는 설정이 저장 자체를 막는다는 뜻은 아닐 수 있으니, 민감한 정보를 넣어도 된다는 허락으로 받아들이면 안 됩니다.
업무에 쓰기 전에 회사에 인공지능 사용 지침이 있는지, 회사가 승인한 도구가 있는지부터 확인하세요. 기업용으로 계약한 서비스는 입력 내용을 학습에 쓰지 않는 등 조건이 다른 경우가 많아서, 같은 이름의 서비스라도 개인 계정과 회사 계정의 안전성이 다를 수 있습니다. 지침이 없다면 혼자 판단하지 말고 담당 부서에 묻는 편이 낫습니다. 몰래 쓰다가 사고가 나면 개인 책임이 커지고, 지침이 생긴 뒤에도 문제가 될 수 있습니다.
다른 사람의 얼굴 사진이나 목소리 녹음을 올려서 편집하거나 흉내 내게 하는 것도 그 사람의 개인정보를 넘기는 일입니다. 친구 사진으로 재미있는 그림을 만들거나 가족 목소리로 인사말을 만드는 일도 본인의 동의를 먼저 받는 것이 기본입니다. 이렇게 올라간 자료가 나중에 어떻게 쓰일지는 올린 사람도 통제하기 어렵습니다. 아이 사진은 특히 신중해야 합니다. 아이는 스스로 동의할 수 없고, 한번 퍼진 사진은 거둬들이기 어렵습니다.
보내기 버튼을 누르기 전에 아래를 한 번 훑어보는 습관을 들이면 대부분의 실수를 막을 수 있습니다. 이미 민감한 정보를 넣었다면 대화를 지우고, 비밀번호나 접속 키였다면 즉시 바꾸세요.
아래 버튼을 누르면 해당 검색엔진에서 이 키워드로 바로 검색합니다