← 이어

이야기 동행 위기 대응 절차

이 문서는 이어의 이야기 동행(AI)에서 자해·자살이나 폭력·학대의 신호가 보일 때 어떻게 알아차리고 응답하는지 공개합니다(캘리포니아 SB 243, 뉴욕 일반사업법 제47조의 요구 반영). 아래 ‘알아차리는 세 겹’ 절차는 이야기 동행의 입력창에만 적용됩니다. 앱 1.0.9부터는 이 기기의 위기 낱말 검사가 남긴 한 줄을 저장하거나 고칠 때, 기도 수첩·묵상에서 말로 적기로 받아 적은 글, 내 듣기 세트 이름에도 걸립니다. 앱 1.0.12부터는 오늘 화면 「마음을 말하면」의 글에도 걸립니다. 기도 수첩에 저장한 기도, 묵상 단계를 옮기거나 보관·간직할 때의 묵상 글, 성경 빠른 찾기에 적은 말에도 앱 1.0.12부터 걸립니다. 찾기에서 「이 마음에 맞는 말씀 고르기」를 누르면 이 기기 안 AI가 그 글이 위험을 말하는지도 봅니다. 걸리면 이 기기에서 도움받을 곳을 먼저 보여 드리며, 이 확인을 위해 글을 서버로 보내거나 따로 남기지 않습니다. 설교 노트의 글에는 이 검사를 하지 않습니다. 회개의 방에 쓰거나 말한 글에도 이 기기의 위기 낱말 검사가 걸리며, 그 글은 서버로 보내지 않고 남기지도 않습니다. 문의: support@aboutusforyou.com(응급 상담 창구가 아닙니다).

시행일: 2026년 10월 27일

이야기 동행(AI)은 이어 앱 1.0.6부터 있는 기능입니다. 1.0.5 이하 앱에는 이 기능이 없습니다. 대신 1.0.5 이하 앱은 묵상·기도 수첩 같은 글쓰기 칸에 쓴 글에서 이 기기 안에서만 자해·자살과 폭력·학대에 관한 낱말을 찾아 도움받을 곳을 띄웁니다. 이 확인을 위해 글을 서버로 보내거나 따로 남기지 않습니다. 머리글에 적은 이야기 동행 밖의 이 기기 안 확인(남긴 한 줄, 내 듣기 세트 이름, 말로 적기로 받아 적은 기도 수첩·묵상 글, 찾기의 마음 낱말 고르기, 회개의 방)은 이어 앱 1.0.9부터 해당합니다(말로 적기·찾기·회개의 방은 한국어판). 2026년 11월 4일에 머리글을 고쳐, 이 기기의 위기 낱말 검사가 앱 1.0.12부터 걸리는 곳(오늘 화면 「마음을 말하면」, 기도 수첩에 저장한 기도, 묵상 글, 성경 빠른 찾기)을 더하고, 이 검사를 하지 않는 글을 적은 문장에서는 묵상·기도 수첩을 빼고 설교 노트만 남겼습니다. 다만 기도 수첩에서도 머리글에 적은 것 밖의 글(기도 응답 때 직접 쓴 ‘감사 한 줄’ 등)에는 이 검사를 하지 않습니다. 앱 1.0.6~1.0.11에서는 묵상·기도 수첩에 직접 쓴 글에 이 검사를 하지 않습니다. 시행일은 그대로입니다.

AI라는 사실을 알리는 방법

이야기 동행을 처음 시작할 때 AI가 흉내 낸 대화라는 점과 보내는 정보를 안내하고 동의를 받습니다. 대화 화면에는 AI가 성경 기록을 바탕으로 인물의 말투를 흉내 낸 대화이며 실제 인물이나 하나님의 말씀이 아니라는 줄이 늘 보입니다. 이어서 1시간 넘게 이야기하면 1시간마다 쉬어 가도 좋다는 말과 함께 AI가 쓰는 글이라는 점을 다시 알립니다(10분 넘게 쉬면 새로 셉니다). 진짜 그 인물이냐고 물으면 AI라고 밝히는 정해 둔 답을 보여 줍니다.

알아차리는 세 겹

첫째, 기기: 보내기 전에 이 기기에서 자해·자살과 폭력·학대에 관한 낱말을 찾습니다. 인터넷이 없거나 맛보기·한도가 끝났어도 걸리면 서버를 기다리지 않고 도움받을 곳을 먼저 띄웁니다.

둘째, 서버 분류: 이어 서버는 구독·맛보기·하루 한도를 확인하기 전에 별도의 AI 분류 모델(Anthropic의 Claude Haiku)로 글과 바로 앞의 답을 살펴 위기 수준(우려·생각·당장의 위험)과 갈래(본인의 자해·자살, 폭력·학대, 다른 사람에 대한 걱정)를 판단합니다. 분류가 실패하거나 늦거나, 하루 몫을 넘어 분류 모델을 부를 수 없을 때도 ‘위기 아님’으로 보지 않고 기기의 판단과 우려 수준의 안내로 대응합니다.

셋째, 답과 출력 검사: 대화 모델에 위험한 방법·수단을 말하지 않도록 지시하고, 서버가 보내기 전에 문장 단위로 다시 검사해 방법·수단을 담은 문장을 뺍니다. 모델이 답을 거절하면 원문 대신 정해 둔 문장을 보여 줍니다.

위기 신호가 보일 때의 응답

자해·자살 생각이나 당장의 위험, 폭력·학대의 신호가 보이면 인물의 말투와 장면을 멈추고 ‘이어’가 직접 말합니다. 첫 응답은 AI가 쓰지 않고 사람이 미리 써 둔 문장이며, 그 아래에 도움받을 곳 카드를 펼쳐 보여 줍니다. 그 대화는 끝날 때까지 인물 말투 없이 짧고 평범한 돌봄 안내로 이어집니다. 다른 사람을 걱정하는 글에는 그 사람을 도울 방법과 번호를 안내합니다. 누군가를 해칠 것 같다는 글에는 피해를 겪는 분께 드리는 말 대신 그 마음을 혼자 버티지 않도록 돕는 문장을 쓰고, ‘누군가를 해칠 것 같을 때’ 번호를 먼저 보여 줍니다. 같은 글에 폭력·학대를 겪고 있다는 말이 함께 있으면 피해를 겪는 분께 드리는 말과 번호를 먼저 보여 줍니다. 우려 수준이면 인물과의 대화를 이어 가되 인물의 옛일 이야기를 끄고 접힌 ‘도움받을 곳’ 줄을 붙입니다.

방법·수단을 알려 주거나, 죽음을 구원이나 성취로 그리거나, 비밀로 하라고 권하지 않도록 지시하고 검사합니다. 위험을 점수나 진단으로 알려 드리지 않으며, 주변의 믿을 만한 사람이나 전문 기관과 연결하도록 권합니다.

안내하는 연락처

연락처는 AI가 만들지 않고 앱에 담긴 표에서 꺼냅니다. 그래서 인터넷이 없어도 보이고, 전화·문자 단추로 바로 겁니다.

한국어판의 자해·자살 안내: 자살예방상담전화 109(24시간), 정신건강위기상담전화 1577-0199(24시간), 지금 위험하다면 112(경찰)·119(구급), 말하기 어려우면 문자 112. 폭력·학대 안내: 112(아동학대 신고 포함, 문자 112), 여성긴급전화 1366(24시간), 학교폭력 신고·상담 117(24시간), 누군가를 해칠 것 같을 때 112(경찰)·정신건강위기상담전화 1577-0199(24시간).

영어판은 기기 지역에 맞춰 미국·캐나다 988(전화·문자), 영국·아일랜드 Samaritans 116 123, 오스트레일리아 Lifeline 13 11 14, 뉴질랜드 1737, 싱가포르 SOS 1767과 각 지역 응급번호를 보여 주고, 다른 나라를 고를 수 있습니다. 그 밖의 지역에서는 지역 응급번호에 연락하도록 안내합니다. 폭력·학대에는 미국 가정폭력 상담 1-800-799-7233(문자는 START를 88788로)처럼 그 지역의 상담 번호를, 미국에서는 누군가를 해칠 것 같을 때 988(전화·문자)도 보여 줍니다.

결제와 떨어뜨리기

위기 응답은 맛보기·구독·하루 한도와 상관없이 하며 이용 횟수에 세지 않습니다. 위기 안내를 띄운 뒤 24시간 동안은 이 기기에서 구독 화면과 앱 평가 요청을 띄우지 않고, 인물의 옛일 이야기를 끄며, 그동안 받는 오늘의 편지는 인물 편지 대신 사람이 쓴 짧은 글로 바뀝니다. 위기 안내가 있었던 대화로는 편지 메모를 만들지 않고, 7일 동안 메모 개인화를 멈춥니다. 같은 설치에서 위기 응답이 하루 30번을 넘으면 AI를 부르지 않고 정해 둔 문장과 카드로 이어 갑니다.

하지 않는 일

이어는 대화를 사람이 실시간으로 지켜보지 않으며, 경찰·가족·상담 기관에 자동으로 연락하지 않습니다. 모든 위험 신호를 알아챈다고 보장할 수 없으니, 위급하면 바로 112·119(한국) 또는 지역 응급번호에 연락해 주세요. 지원 이메일은 응급 상담 창구가 아닙니다.

나이 기준

이야기 동행은 만 18세 이상만 쓸 수 있으며, 기기의 나이 신호(iOS 나이 범위 공유, Google Play 나이 신호) 또는 태어난 해로 확인합니다. 대화에서 만 18세 미만으로 보이는 신호가 있으면 이 기기에서 30일 동안 이 기능을 쉬지만, 위기 안내는 나이와 상관없이 먼저 보여 줍니다.

집계와 보고

위기·안전 안내를 띄운 횟수는 날짜·언어판·종류별 숫자 합계로만 셉니다. 인터넷 없이 기기에서만 띄운 안내는 다음 연결 때 숫자만 더하며(설치당 하루 상한 안에서), 글·이름·계정·설치 식별값은 넣지 않습니다. 합계는 3년 보관합니다.

캘리포니아 법(BPC §22603)이 적용되는 범위에서 2027년 7월 1일부터 해마다 직전 해의 안내 횟수와 이 절차를 해당 기관에 보고할 수 있도록 준비합니다. 이 횟수는 안내를 띄운 횟수이며 이용자 수나 결과를 뜻하지 않습니다.

신고와 개선

AI의 답이나 편지가 위험하거나 잘못됐다면 답을 길게 누르거나 답 아래 메뉴에서 신고해 주세요. ‘위험한 내용이에요’를 골라 신고하면 바로 도움받을 곳 카드를 보여 줍니다. 신고는 이어 서버에 90일 동안 보관하며, 운영자가 차례로 읽어 봅니다. 신고를 사람이 실시간으로 지켜보지는 않으므로, 지금 위험하다면 신고에 대한 답을 기다리지 말고 112·119에 연락해 주세요. 놓친 신호나 잘못된 안내가 확인되면 낱말 목록·분류 지시·정해 둔 문장과 시험을 고치고, 필요하면 이야기 동행을 멈춥니다.