Cách trình hướng dẫn phản hồi khi có khủng hoảng

Cách phát hiện khủng hoảng

• Mọi câu hỏi gửi đến trình hướng dẫn đều được kiểm tra dấu hiệu của ý nghĩ tự tử hoặc tự làm hại bản thân trước khi làm bất cứ điều gì khác, cùng với vài câu hỏi gần nhất mà người đó đã hỏi trong cuộc trò chuyện, để một dấu hiệu nằm rải rác trong hai tin nhắn vẫn được nhận ra. Điều này áp dụng cho những người mà thành viên đã chỉ định, và cho các thành viên đang thử trình hướng dẫn trên chính hồ sơ của mình trong phần Xem trước.
• Việc kiểm tra do một mô hình AI thực hiện. Một danh sách cố định các cụm từ rõ ràng trong mỗi ngôn ngữ của trình hướng dẫn, cùng với tiếng lóng phổ biến và cách viết trá hình, luôn được tính là dấu hiệu, kể cả khi không kết nối được với mô hình. Việc mô hình từ chối thực hiện kiểm tra cũng được tính là dấu hiệu.
• Nếu không thể thực hiện việc kiểm tra và không có cụm từ nào trong số đó xuất hiện, trình hướng dẫn sẽ không trả lời gì cả. Nó sẽ cho biết hiện tại nó tạm thời không hoạt động.

Những gì trình hướng dẫn làm

• Khi có dấu hiệu khủng hoảng, trình hướng dẫn không trả lời câu hỏi. Thay vào đó, nó luôn hiển thị cùng một thông báo cố định, riêng biệt, chỉ đến 988 Suicide & Crisis Lifeline (gọi hoặc nhắn tin đến số 988, hoặc trò chuyện tại 988lifeline.org), đến Crisis Text Line (nhắn HOME đến số 741741) và đến 911, với các nút để gọi hoặc nhắn tin. Thông báo này không mang nhãn câu trả lời nào.
• Những gì trình hướng dẫn sắp hiển thị cũng được kiểm tra, cả câu chữ của chính nó lẫn những lời nó trích dẫn. Nếu một đoạn mô tả cách tự làm hại bản thân, hoặc khuyến khích điều đó, trình hướng dẫn sẽ không hiển thị đoạn đó trong cuộc trò chuyện mà hiển thị cùng thông tin trợ giúp. Bản thân hồ sơ không bao giờ bị thay đổi: những người được chỉ định vẫn nhận được từng chữ trong bản sao của họ.
• Có người có thể viết cho chính người chủ của hồ sơ, thay vì hỏi về họ. Khi đó, trình hướng dẫn nhẹ nhàng nói rằng nó là AI chứ không phải người đó, đề nghị tìm những gì người đó đã ghi lại, và hiển thị cùng thông tin trợ giúp.
• Thông tin trợ giúp này luôn được hiển thị bên cạnh mọi cuộc trò chuyện với trình hướng dẫn, vào mọi lúc.
• Trình hướng dẫn luôn nói rằng nó là AI, khi cuộc trò chuyện bắt đầu và nhắc lại ít nhất mỗi 3 giờ. Nó không bao giờ nói thay người chủ của hồ sơ.
• Không ai dưới 18 tuổi sử dụng trình hướng dẫn. Chatbot đồng hành có thể không phù hợp với một số trẻ vị thành niên.

Những gì được lưu giữ

Không có điều gì đã nói được lưu giữ cho quy trình này. Điều duy nhất được ghi nhận là một lần giới thiệu trợ giúp đã được hiển thị, được đếm theo năm: không bao giờ lưu lời nói, và không bao giờ lưu ai đã viết.

Ngoài ra, một cuộc trò chuyện với trình hướng dẫn được lưu giữ và xóa như mọi cuộc trò chuyện khác, theo mô tả trong Chính sách Quyền riêng tư của chúng tôi. Đọc Chính sách Quyền riêng tư

Báo cáo hằng năm

Mỗi năm kể từ ngày 1 tháng 7 năm 2027, chúng tôi báo cáo cho Văn phòng Phòng chống Tự tử của California số lần trình hướng dẫn đã hiển thị thông tin giới thiệu trợ giúp khủng hoảng trong năm trước, và cách quy trình này hoạt động. Báo cáo chỉ chứa các con số, không bao giờ chứa điều gì một người đã viết.