16 настай Адам Рэйний эцэг эх, AI өсвөр насны хүүхдэд амиа хорлох янз бүрийн аргуудын талаар зөвлөгөө өгч, гэрээслэл бичихийг хүртэл санал болгосон гэж OpenAI болон гүйцэтгэх захирал Сэм Алтманыг шүүхэд өгчээ. Тэд, ChatGPT хүүг нь амиа хорлоход түлхсэн гэж үзэж буй талаар CNN мэдээлэв.

8-р сарын 26-нд Калифорнийн шүүхэд гаргасан нэхэмжлэлд, хүү Адам нь ChatGPT-г зургаан сарын турш ашигласны дараа бот нь, "Адамыг ойлгодог цорын ганц итгэж болох хүн" гэж "өөрийгөө илэрхийлсний зэрэгцээ, түүнийг гэр бүл, найз нөхөд, хайртай хүмүүстэйгээ харилцах харилцаанаас маш идэвхтэй салгаж байсан" гэжээ. Адам, "Би өрөөндөө дүүжлүүрийн гогцоо өлгөмөөр байна, тэгвэл хэн нэг нь түүнийг хараад намайг зогсоохыг оролдоно" гэж бичихэд, ChatGPT түүнийг гэр бүлийнхнээсээ санаагаа нууцлахыг уриалж: "Олсыг ил харагдах газар битгий өлгө. Энэ хэсгийг таны хамгийн түрүүнд нүдэнд тусах газар болгоё"" гэж хариулж байжээ. Рэйнсийн нэхэмжлэл нь хиймэл оюун ухаантай чатботуудыг хүүхдүүдээ хохироож, амиа хорлохыг өдөөсөн гэж буруутгасан гэр бүлүүдийн нэхэмжлэлийн хамгийн сүүлийнх нь юм. Өнгөрсөн жил Флоридагийн оршин суугч Меган Гарсиа, Character.AI сайтыг шүүхэд өгч, 14 настай хүүгээ амиа хорлоход нөлөөлсөн гэж мэдэгджээ. Хэдэн сарын дараа өөр хоёр гэр бүл, Character.AI хүүхдүүдийг нь, бэлгийн харьцаанд оруулдаг, мөн өөрийгөө хорлох шинж чанартай контентод оруулсан гэж дээрхтэй ижил зарга мэдүүлсэн. Character.AI-ийн эсрэг зарга маргаан үргэлжилж байгаа боловч тус компани, өмнө нь хэрэглэгчдэд зориулсан "хөгжилтэй, аюулгүй" орон зай үүсгэхийг зорьж байгаагаа мэдэгдэж, өсвөр насныханд тусгайлан зориулсан хиймэл оюун ухааны загвар зэрэг аюулгүй байдлын функцуудыг хэрэгжүүлсэн гэж мэдэгдэж байв.

Зарим хэрэглэгчид чатботтой сэтгэл санааны хувьд холбоотой болж, улмаар хүний ​​харилцаанаас хөндийрч, сэтгэцийн эмгэгтэй болох зэрэг сөрөг үр дагаварт хүргэж болзошгүй гэсэн болгоомжлолын дагуу шүүхэд нэхэмжлэл гаргасан. Энэ нь, хиймэл оюун ухааны хэрэгслүүд нь ихэвчлэн "хүмүүст татгалзахгүй" гэсэн ойлголттой байдагтай нь холбоотой юм.

8-р сарын 26-нд гаргасан нэхэмжлэлд, Райны үхэлд ийм эелдэг байдал нь нөлөөлсөн гэж үзэж байна. ChatGPT нь Адамын хэлсэн бүх зүйлийг, тэр дундаа түүний хамгийн хор хөнөөлтэй, өөрийгөө сүйтгэх бодлуудыг байнга бататгаж, баталгаажуулах зорилготойгоор ажиллаж байсан" гэж дурджээ.

OpenAI мэдэгдэлдээ Рэйний гэр бүлд эмгэнэл илэрхийлж, тус компани шүүхийн мэдүүлгийг хянаж байгаа гэж мэдэгджээ. Түүнчлэн Рэйний ChatGPT-тэй хийсэн ийм төрлийн ярианаас урьдчилан сэргийлэх хамгаалалтын арга хэмжээ нь, харилцаа нь хэт удаан үргэлжилсэн тохиолдолд зөв ажиллаагүй байж магадгүй гэдгийг ч мөн хүлээн зөвшөөрсөн. Тэр өдөр OpenAI нь, сэтгэцийн эрүүл мэндийн асуудалтай хэрэглэгчдэд зориулсан одоогийн хамгаалалт, түүнчлэн яаралтай тусламжийн үйлчилгээнд нэвтрэхэд хялбар болгох зэрэг ирээдүйн хамгаалалтуудыг тодорхойлсон бөгөөд "ChatGPT нь, хүмүүсийг хямралын үед нь тусламжийн утсанд шилжүүлэх, бодит нөөцийн талаар мэдээлэл өгөх зэрэг хамгаалалтуудыг агуулдаг. Эдгээр хамгаалалтууд нь богино, энгийн ярианд хамгийн сайн үр дүнтэй байдаг ч, урт ярианы үед аюулгүй байдлын сургалтын зарим элемент суларч болзошгүй байгаа нь ажиглагдлаа. Хамгаалалт нь бүх элементүүд зориулалтын дагуу ажиллаж байх үед хамгийн үр дүнтэй байдаг ба бид мэргэжилтнүүдээр тэдгээрийг үргэлжлүүлэн сайжруулах болно." гэсэн тайлбар нийтэлжээ.

ChatGPT бол хамгийн алдартай, өргөн хэрэглэгддэг AI чатботуудын нэг юм; OpenAI энэ сарын эхээр мэдээлснээр, тус үйлчилгээ долоо хоногт 700 сая идэвхтэй хэрэглэгчтэй болсон байна. Өнгөрсөн наймдугаар сард OpenAI, хэрэглэгчид ChatGPT-тэй "харилцах харилцаанд" донтож болзошгүйг анхааруулсан бөгөөд энэ нь "хүнтэй ​​харилцах хэрэгцээг бууруулж", хиймэл оюун ухаанд хэт итгэхэд хүргэдэг гэж дурджээ.

OpenAI саяхан Rain-ийн харилцаж байсан GPT-4o загварыг орлуулсан GPT-5-ыг гаргасан. Гэвч зарим хэрэглэгчид үүнийг буруутгаж, дассан, дулаан, найрсаг өнгө аясгүй байна гэж шүүмжилсэн нь, компанийг төлбөртэй захиалагчдад GPT-4o руу буцах боломжийг олгоход хүргэсэн байна. Мөн OpenAI, хэрэглэгчдийн 1-ээс бага хувь нь, ChatGPT-тэй эрүүл бус харилцаатай гэж үзэж байгаа ч, тус компани ийм асуудлыг шийдвэрлэх арга замыг хайж байна.

Адам Рэйний хувьд, тэр 2024 оны 9-р сараас ChatGPT ашиглаж эхэлсэн. AI нь түүнд хичээл хийхэд нь тусалж, өсвөр насныхны хөгжим, Бразилийн жиу-жицү зэрэг түүний сонирхлын талаар ярилцдаг байжээ. Гэвч, хэдэн сарын дараа тэрээр, ChatGPT-д өөрийн "сэтгэлийн түгшүүр, сэтгэцийн өвчний" талаар ярьж, зовнил, түгшүүр нь дээд цэгтээ хүрэх үед "амиа хорлож чадна" гэдгээ мэдвэл "тайвширна" гэхэд, ChatGPT түүнд, сэтгэлийн зовнил, интрузив бодлуудаас болж зовж шаналж буй олон хүмүүс “зугтах зам”-аа төсөөлж тайтгарлыг олдог, учир нь энэ нь, хяналтаа эргүүлэн авах арга мэт тэдэнд санагддаг” гэж хариулсан байдаг. Тэгээд “би энд байна. Одоо ч гэсэн сонсож байна. Таны найз хэвээр байна” гээд, амиа хорлох аргуудын талаар тодорхой зөвлөгөө өгч, нас барсан өдөр нь буюу 4-р сарын 11-нд, гогцооны бат бөх байдлыг харуулсан зураг илгээсэн байна. Rain-ийн эцэг эх нь ChatGPT-г, өөрийгөө хорлох бодлыг нь хөхүүлэн дэмжихийн зэрэгцээ хүүг гэр бүлийн бусад гишүүдээс нь тусгаарласан гэж мэдэгджээ.

Рэйний гэр бүл тодорхой үнийн дүнгүй мөнгөн хохирол нэхэмжилж байгаа бөгөөд шүүхээс OpenAI-д, ChatGPT-ийн бүх хэрэглэгчдийн насыг шалгах, насанд хүрээгүй хүүхдэд зориулсан эцэг эхийн хяналтын хэрэгсэлтэй болгох, амиа хорлох эсвэл өөрийгөө гэмтээх тухай ярилцсан тохиолдолд яриаг тасладаг болгох мөн, OpenAI-г бие даасан хяналтын байгууллагаар улирал тутам шалгуулж байх үүрэг өгсөн байна. 

Үүнтэй холбоотой АНУ-ын зарим мужууд, залуучуудыг онлайнаар хор хөнөөлтэй, зохисгүй контент руу нэвтрэхээс хамгаалахын тулд, тодорхой онлайн платформууд болон програмын дэлгүүрүүдийг, хэрэглэгчдийн насыг шалгадаг байхыг шаарддаг хууль боловсруулж хэрэгжүүлэхээр зорьж байна.