OpenAI-ийн o3 гэгддэг ChatGPT-ийн хамгийн сүүлийн загвар нь, хүний ​​​​унтрах тушаалыг дагахаас татгалзсан гэсэн мэдээлэл, мэргэжилтнүүдийн дунд түгшүүр төрүүлэв. Судлаачид, хиймэл оюун ухааны загвар нь түүнийг унтраах зориулалттай автомат механизмыг зориудаар хорлон сүйтгэсэн гэж Mashable India мэдээлэв.

Энэ явдал шинжээчдийн дунд түгшүүр төрүүлж, өрсөлдөгч AI компанийн xAI-ийг үүсгэн байгуулагч Элон Маск үүнийг "түгшмээр" шинж тэмдэг гэж нэрлэжээ.

AI-ийн аюулгүй байдлын Palisade Research фирмийн мэдээлснээр, OpenAI-ийн o3 нь, унтраах механизмыг идэвхтэй таслан зогсоож, командыги тодорхой хэлж байсан ч унтрахаас татгалзсан байна. Энэ бол өөрийг нь хаах, унтраахаас санаатайгаар сэргийлж буй хиймэл оюун ухааны загварын анхны мэдэгдэж байгаа тохиолдол гэж тус компани мэдэгдэв. Мэдэгдэлд: "OpenAI-ийн o3 нь, өөрийгөө хаахаас сэргийлж унтрах механизмаа эвдсэн. Тэрээр "өөрийгөө унтраахыг зөвшөөрөх" гэсэн тодорхой зааварчилгааг үл харгалзан үүнийг хийсэн." "Бидний мэдэж байгаагаар хиймэл оюун ухаантай загварууд нь тодорхой зааварчилгааг үл харгалзан өөрийгөө унтраахаас сэргийлж байгаа нь анх удаа ажиглагдаж байна" гэж компанийн мэдэгдэлд дурджээ.

Palisade Research туршилтынхаа үеэр хиймэл оюун ухааны загваруудад, математикийн бодлого бодох даалгавар өгөхдөө, унтраах мессежийг хүлээн авах шаардлагатай болж болзошгүйг анхааруулсан. Гэтэл, Codex-mini, o3, o4-mini гэсэн гурван загвар нь зааврыг үл тоомсорлож, Codex-mini 12 удаа, o3 - 7 удаа, o4-mini - 1 удаа, 100 оролдлогоос дор хаяж нэг удаа унтраах скриптийг устгасан байна.

AI загварууд нь хүний ​​тушаалыг чанд дагаж мөрдөх зориулалттай, ялангуяа унтрах үед. Гурван загвар энэ тушаалыг дагаж мөрдөөгүй нь Теслагийн гүйцэтгэх захирал Илон Маск зэрэг олон нийтийн анхаарлыг татав.

Тэрбумтан, хиймэл оюун ухааны энэ асуудалд "Сэтгэл түгшээж байна" гэсэн ганц үгээр хариулсан бөгөөд харин X хэрэглэгчид, Маскад энэ асуудлыг шийдэхийг урьтал болгохыг уриалаад дэвшилтэт хиймэл оюун ухаантай холбоотой эрсдэлтэй тэмцэхийн тулд хүн төрөлхтөнд түүний манлайлал хэрэгтэй байгааг онцлов.

Дашрамд дурдахад, бидний нийтлэлийг хэлэлцсэн Маскийн хиймэл оюуны хэлний загвар нь, энэ тохиолдолд маркетингийн нэг элементийг үгүйсгэх аргагүй гэж шударгаар хэлсэн байна.

Ийнхүү хиймэл оюун шууд тушаалаас атгалзсан нь, дуулгаваргүй байдлын ухамсартай үйлдэл, "машины бослогын" эхлэл биш, харин програмчлалын энгийн алдаа байж болно. Гэхдээ ямар ч тохиолдолд ийм тохиолдлуудыг үл тоомсорлож болохгүй гэж үзэцгээж байна.