Хиймэл оюун ухаан худал хэлж, заналхийлж сурч байна

Дэлхийн хамгийн дэвшилтэт хиймэл оюун ухаан бүхий (AI) загварууд нь худал хэлэх, заль мэх хийх, бүр зорилгодоо хүрэхийн тулд заналхийлэх зэрэг сэтгэл түгшээсэн хариу үйлдэл үзүүлж эхэлжээ. Хамгийн сүүлийн жишээ нь нэгэн  инженерийг шантаажилж, гэр бүлээс гадуурх харилцааг илчлэх болно гэж сүрдүүлсэн явдал юм.

ChatGPT дэлхийг донсолгосноос хойш хоёр жил гаруйн дараа хиймэл оюун ухаан судлаачид өөрсдийн бүтээлүүд хэрхэн ажилладагийг бүрэн ойлгоогүй хэвээр байна.

Гэсэн хэдий ч улам бүр хүчирхэг загваруудыг байрлуулах уралдаан асар хурдтайгаар үргэлжилж байна.

Энэхүү хууран мэхлэх зан үйл нь хариу үйлдэл үзүүлэхээс илүүтэйгээр асуудлыг алхам алхмаар даван туулдаг хиймэл оюун ухааны системүүд болох "ухаантай" загварууд бий болсонтой холбоотой. Anthropic болон OpenAI зэрэг компаниуд өөрсдийн системийг судлахын тулд Аполло зэрэг гадны фирмүүдийг татан оролцуулж эхэлжээ.

https://www.straitstimes.com/world/united-states/ai-is-learning-to-lie-scheme-and-threaten-its-creators

 

Сэтгэгдэл үлдээх