嚮導如何回應危機

如何偵測危機

• 每一個向嚮導提出的問題，在進行任何其他處理之前，都會連同此人在該次對話中最近提出的幾個問題一起，檢查是否有自殺念頭或自我傷害的跡象，因此分散在兩則訊息中的跡象也能被察覺。這適用於會員指定的人，也適用於在預覽中以自己的紀錄試用嚮導的會員。
• 檢查由一個 AI 模型進行。在嚮導支援的每種語言中，都有一份固定的明確詞句清單，包括常見的俚語和變形拼寫，這些詞句一律視為跡象，即使無法連線到模型也是如此。模型拒絕進行檢查，也視為跡象。
• 如果無法進行檢查，且沒有出現上述任何詞句，嚮導就完全不會回答。它會說明目前暫時無法使用。

嚮導會怎麼做

• 一旦出現危機跡象，嚮導就不會回答問題。它每次都會單獨顯示同一則固定訊息，指向 988 自殺與危機生命線（撥打或傳簡訊至 988，或在 988lifeline.org 線上交談）、危機簡訊熱線（傳簡訊 HOME 至 741741）和 911，並附有撥打電話或傳送簡訊的按鈕。這則訊息不帶任何回答標示。
• 嚮導即將顯示的內容也會經過檢查，包括它自己的句子和它引用的話。如果某段內容描述了傷害自己的方式，或鼓勵這麼做，嚮導就不會在對話中顯示它，而是改為顯示同樣的協助資訊。紀錄本身絕不會被更改：被指定的人仍然會在他們的副本中收到每一個字。
• 有人可能會直接寫信給紀錄的主人，而不是詢問關於他的事。這時嚮導會溫和地說明它是 AI，不是那個人，並提議幫忙找出那個人記錄的內容，同時顯示同樣的協助資訊。
• 同樣的協助資訊會隨時顯示在每一段與嚮導的對話旁邊。
• 嚮導一定會表明自己是 AI，在對話開始時說明，之後至少每 3 小時再說明一次。它絕不以紀錄主人的身分說話。
• 未滿 18 歲的人不能使用嚮導。陪伴型聊天機器人可能不適合某些未成年人。

保存哪些內容

為了這項處理方式，我們不保存任何說過的話。唯一記錄的是曾經顯示過轉介資訊，並按年度計數：絕不記錄文字內容，也絕不記錄是誰寫的。

除此之外，與嚮導的對話會像其他對話一樣保存和刪除，如我們的隱私政策所述。 閱讀隱私政策

年度報告

從 2027 年 7 月 1 日起，我們每年會向加州自殺防治辦公室報告前一年嚮導顯示危機轉介資訊的次數，以及這項處理方式如何運作。報告只包含次數，絕不包含任何人寫的內容。