위기 상황에서 가이드가 대응하는 방법

위기를 감지하는 방법

• 가이드에게 하는 모든 질문은 다른 어떤 처리보다 먼저, 그 대화에서 그 사람이 했던 최근 몇 개의 질문과 함께 자살 생각이나 자해의 징후가 있는지 확인됩니다. 그래서 두 메시지에 걸쳐 나타난 징후도 알아챌 수 있습니다. 이는 회원이 지정한 사람들에게, 그리고 미리보기에서 자신의 기록으로 가이드를 사용해 보는 회원에게도 적용됩니다.
• 확인은 AI 모델이 합니다. 가이드가 지원하는 각 언어별로 정해진 명확한 표현 목록(흔한 은어와 변형된 철자 포함)은 모델에 연결할 수 없을 때에도 항상 징후로 간주됩니다. 모델이 확인을 거부하는 경우에도 징후로 간주됩니다.
• 확인을 할 수 없고 그런 표현도 나타나지 않으면, 가이드는 아예 답하지 않습니다. 지금은 이용할 수 없다고 안내합니다.

가이드가 하는 일

• 위기의 징후가 보이면 가이드는 질문에 답하지 않습니다. 대신 매번 같은 정해진 메시지만 단독으로 보여 드리며, 988 Suicide & Crisis Lifeline(988에 전화 또는 문자, 또는 988lifeline.org에서 채팅), Crisis Text Line(741741로 HOME 문자), 911을 안내하고 전화나 문자를 보낼 수 있는 버튼을 함께 표시합니다. 이 메시지에는 답변 표시가 붙지 않습니다.
• 가이드가 보여 주려는 내용, 즉 가이드 자신의 문장과 인용하는 말도 확인합니다. 어떤 구절이 스스로를 해치는 방법을 설명하거나 이를 부추긴다면, 가이드는 그 구절을 대화에 보여 주지 않고 대신 같은 도움 안내를 보여 드립니다. 기록 자체는 절대 바뀌지 않습니다. 지정된 사람들은 자신의 사본에서 모든 말을 그대로 받습니다.
• 기록에 관해 묻는 대신 기록의 주인에게 직접 말을 거는 분도 있을 수 있습니다. 그럴 때 가이드는 자신이 AI이며 그분이 아니라는 것을 부드럽게 알리고, 그분이 기록한 내용을 찾아 드리겠다고 제안하며, 같은 도움 안내를 보여 드립니다.
• 가이드와의 모든 대화 옆에는 언제나 같은 도움 안내가 표시됩니다.
• 가이드는 대화를 시작할 때, 그리고 적어도 3시간마다 다시, 자신이 AI라는 것을 항상 밝힙니다. 기록의 주인인 사람인 것처럼 절대 말하지 않습니다.
• 만 18세 미만은 가이드를 사용하지 않습니다. 컴패니언 챗봇은 일부 미성년자에게 적합하지 않을 수 있습니다.

보관되는 것

이 방침을 위해 대화 내용은 아무것도 보관하지 않습니다. 기록되는 것은 도움 안내가 표시되었다는 사실뿐이며, 연도별 횟수로만 집계됩니다. 말의 내용도, 누가 썼는지도 절대 기록하지 않습니다.

그 밖에 가이드와의 대화는 개인정보 처리방침에 설명된 대로 다른 대화와 똑같이 보관되고 삭제됩니다. 개인정보 처리방침 읽기

연례 보고

2027년 7월 1일부터 매년, 저희는 캘리포니아주 자살 예방청(Office of Suicide Prevention)에 지난 1년 동안 가이드가 위기 도움 안내를 몇 번 표시했는지와 이 방침이 어떻게 작동하는지 보고합니다. 보고서에는 횟수만 담기며, 누군가 쓴 내용은 절대 담기지 않습니다.