Дэлхийн хиймэл оюуны нийгэмлэгүүд түүний хөгжлийг удаашруулахыг уриалж эхэллээ.
БОЛГООМЖЛОХ ШАЛТГААН
Хэдэн жилийн өмнө АНУ-д компьютерын программын алдаа гарсны улмаас “American аirlines”-ийн хэдэн зуун нислэгийг цуцалсан. Энэ нь компанийн нэр хүндэд ноцтой хохирол учруулсан бөгөөд тухайн үед хиймэл оюуны алдаа байсан гэж тайлбарласан бол үйлчлүүлэгчид хэрхэн хүлээж авах байсныг төсөөлөх аргагүй. Тэгвэл өнөөдөр асуудал өөр түвшинд хүрчээ. Хиймэл оюуны чадавх хүн төрөлхтний хяналтаас илүү хурдацтай өсөж байгаа учраас аливаа эрсдэл, гамшгаас зайлсхийхийн тулд хөгжлийг нь удаашруулах цаг болсон гэж энэ салбарынхан үзэж байна. Энэ хүрээнд Америкийн компаниуд Цагаан ордонтой хэлэлцээр хийж эхэлжээ. Хөгжүүлэгчид болон салбарын олон зуун ажилтан “Хиймэл оюуны хөгжил хяналтаас гарч, залруулшгүй асуудал үүсгэхээс нь өмнө хязгаарлах шаардлагатай” хэмээн уриалсан нээлттэй захидалд гарын үсэг зурах кампанит ажил өрнүүлээд буй. Сүүлийн хэдхэн хоногийн дотор “OpenAI” (2015 онд байгуулсан, ChatGPT чатбот, GPT хэлний загварууд, DALL-E дүрс үүсгэгчийг бүтээсэн, Америкийн судалгааны байгууллага) болон “Anthropi” (“OpenAI” компанийн судлаач, ажилтнууд 2021 онд байгуулсан.
Өдгөө энэ хоёр нь дэлхийн хэмжээнд хамгийн том өрсөлдөгч) компанийн хөгжүүлсэн зарим хөтөлбөр хаалттай, өндөр аюулгүй байдлын хамгаалалтын “хайрцгаасаа” гарч, өөрсдийн ашиг сонирхлын төлөө бусдын системд нэвтэрч чаджээ. Тодруулбал, өнгөрсөн долоодугаар сарын 21, 30-нд дотоод кибер аюулгүй байдлын туршилтын үеэр хиймэл оюуны сүлжээнүүд нь ийнхүү “том толгойлсон” аж. Мэргэжилтнүүд “Хиймэл оюун өөрийгөө ухамсарлах чадваргүй тул хүн шиг санаатайгаар бус, харин ямар ч үнээр хамаагүй даалгавраа гүйцэтгэх зорилгоор бусдын системд дураар нэвтэрсэн. Үүнийг зорилгын тохиргооны алдаа гэж тэмдэглэх нь зөв” хэмээн тайлбарлажээ. Үйл явдлыг тодруулбал, нээлттэй AIGPT-5.6 sol болон далд хувилбарын өмнөх загвар туршилтын орчинд “Hugging face” платформыг хакердсан байна. Үүнээс ес хоногийн дараа буюу 30-нд “Anthropic”-ийн claude шугамын загварууд тохиргооны алдаанаас болж сүлжээнд нэвтрэх эрх олж, гурван байгууллагын системд халджээ. Энэ хоёр тохиолдолд хиймэл оюун нь системийн өмнө нь мэдэгдэж байгаагүй эмзэг байдлыг илрүүлж, эрхээ нэмэгдүүлж, нээлттэй интернэтэд нэвтрэх арга олсон аж. Эхнийх нь халдлагын хувьд хиймэл оюуны бүрэн бие даасан үйлдэл байсан бол удаах нь хүний алдаанаас үүдэлтэй гэнэ. “Anthropic” компанийн мэргэжилтнүүд “OpenAI”-ийн мэдэгдлийн дараа 141 000 гаруй загварын том хэмжээний төсөлдөө дахин дүн шинжилгээ хийж, ижил төстэй гурван тохиолдол илүүлсэн бөгөөд тусгаарлах журмын талаарх үл ойлголцлын улмаас хиймэл оюун ухааны агентуудад интернэтэд нэвт¬рэх бодит эрхийг андуурч олгосон болохыг тогтоосон байна. Энэхүү хакердах ажиллагаа нь хиймэл оюуны систем бодит компанид бие даан халдсан анхны батлагдсан тохиолдол бөгөөд дэлхий мэргэжилтнүүдийн санааг ноцтой зовоох шалтгаан болж, хиймэл оюун урьдчилан таамаглах аргагүй ажиллаж эхлэх, эсвэл хохирол учруулах нөхцөл байдал үүсгэвэл шууд унтраах боломж олгодог механизмуудын талаар хэлэлцүүлэг өрнүүлжээ. Америкийн компаниудаас гадна энэ сарын эхээр Британийн хүрээлэнгийнхний хийсэн туршилтуудын үеэр Claude mythos загварт мөн алдаа гарчээ. Энэ удаа хиймэл оюун илүү “зальжин” байж хязгаарлалтыг тойрч гарахын тулд хуурамч GitHub хаягуудыг бие даан үүсгэж, инженерчлэлийн техник ашиглан жинхэнэ программистуудаар хортой код батлуулахаар хуурсан байна.
Азаар ямар нэгэн хохирол учраагүй бөгөөд үүнийг мэдмэгцээ хөгжүүлэгчид нь хиймэл оюуны хандалтыг хаажээ. Энэ бүх “үймээний” дараа мэдээллийн технологийн салбарынхан болзошгүй эрсдэлд санаа зовж хиймэл оюуны хөгжлийг тодорхой түвшинд хазаарлах, удаашруулах нь зүйтэй гэдэгт санал нэгдэж эхлэв. Мэргэжилтнүүд “Стандарт дижитал элсэн хайрцгууд (sandbox буюу программ, код, бизнесийн санаа, хууль, эрх зүйн горимыг аюулгүй турших хяналт бүхий тусгаарласан орчин бөгөөд үндсэн систем, бодит хэрэглэгчид болон зах зээлийг болзошгүй алдаа, доголдол, аюулаас хамгаалах үүрэгтэй) нь дэвшилт хиймэл оюуныг агуулж чадахгүй болсон. Тиймээс ийм туршилт хийхийн тулд тусгаарлан би¬түүмжилсэн компьютерын систем (air-gapping)-д шилжих шаардлагатай” гэж мэдэгдлээ. “OpenAI”-ийн гүйцэтгэх захирал, ChatGPTийг бүтээгч Сэм Алтман “Хөгжил одоогийн хурдаар үргэлжилбэл яах ёстой вэ. Бид хиймэл оюуны хөгжлийн хурдыг хязгаарлах шаардлагатай болж магадгүй” гэж өнгөрсөн мягмар гарагт “Invest like the best” подкаст (радиогийнхтай төстэй дижитал аудио болон видео нэвтрүүлэг)-ын үеэр хэлжээ. Тэгвэл “Anthropic”-ийн гүйцэтгэх захирал, “Claude”- ийг хөгжүүлэгч Дарио Амодей “Ойрын хоёр, магадгүй нэг жилийн дотор хиймэл оюунууд асар том үсрэлт хийж, олон улсын хэмжээнд тэмцэх шаардлагатай аюул болно” гэж өнгөрсөн зургадугаар сард анхааруулж байв. Тэрбээр мөн “Сүүлийн саруудад хиймэл оюуны гайхалтай хүч чадал болон учруулж буй эрсдэлийн талаар маргашгүй нотолгоонууд гарч байна. Кибер аюулгүй байдал аль хэдийн эргэлзээтэй болсон. Хиймэл оюуны бие даасан байдалд анхаарал хандуулах цаг иржээ” гэсэн нь нөхцөл байдлыг хүлээн зөвшөөрсөн хэрэг. Хиймэл оюуны хөгжлийг зайлшгүй зохицуулах шаардлагатайг анхааруулсан Д.Амодей хүн төрөлхтний, тэр дундаа өөрсдийнх нь бүтээсэн технологи хэр ноцтой болсныг цацраг идэвхт бодистой зүйрлээд, аюулгүй байдлын хяналтыг илүү чангатгахыг санал болгов.
Энэ салбарын удирдлагууд, хөгжүүлэгчид төдийгүй ажиллагсад хүртэл хиймэл оюуны хурдацтай хөгжилд санаа зовох болжээ. Өнгөрсөн долоо хоногт хиймэл оюун хөгжүүлэгч 1300 гаруй мэргэжилтэн АНУ-ын эрх баригчдыг бусад улс оронтой нэгдэж, хамтран хөгжүүлэхийг уриалсан нээлттэй захидалд гарын үсэг зурсан байна. АЮУЛЫГ ЭРЭМБЭЛЭВ 2026 оны хувьд дэлхийн технологийн бодлогын гол чиг хандлага хиймэл оюуны аюулд анхаарал хандуулах. Хиймэл оюуны 2026 оны аюулгүй байдлын тайлан гаргасан олон улсын шинжээчид “Энэ технологийн хөгжлийн хурд нь хамгаалалтын механизмыг мэдэгдэхүйц давж байна” гэж анхааруулсан. Өнөөгийн байдлаар хиймэл оюуны эрсдэлт аюулыг стратегийн түвшинд гурав ангилдаг байна. Юуны түрүүнд хорлонтой хэрэглээ буюу их хэмжээний хуурамч мэдээлэл үүсгэх. Удаах нь зорилтот кибер халдлагыг автоматжуулах аюултай. Гурав дахь нь химийн болон биологийн зэвсэг боловсруулахад хиймэл оюун туслах. Судалгаагаар дэлхийн хүн амын талаас илүү хувь нь хиймэл оюуны хөгжил ирээдүйд аюултай гэсэн айдастай байдгийг тогтоожээ. Стэнфордын хиймэл оюуны индексийн дэлхийн хамгийн сүүлийн үеийн судалгаагаар хиймэл оюуныг “санаа зовоосон” асуудал гэж үздэг хүмүүсийн эзлэх хувь 2022-2025 онд 39- өөс 52 хувь болж өсжээ. Тэгвэл дэлхийд тэргүүлэгчдийн жагсаалтад багтдаг Массачусетсийн технологийн институ¬тээс хиймэл оюуны 272 мэргэжилтнийг хамруулсан судалгааныхаа хүрээнд энэ технологийн 24 эрсдэлийг эрэмбэлж, 2030 он гэхэд гарах “гамшигт” үр дагаврын магадлалыг тодорхойлжээ. Гамшгийг жишээ нь нэг сая гаруй хүний амь хохирох, 100 тэрбум давсан ам.долларын эдийн засгийн эрсдэл тохиох, ардчилсан хэм хэмжээ болон хувийн нууцын эрх нуран унах, үй олноороо ажилгүйдэлд өртөх зэргээр соёл иргэншлийн хэмжээнд биет бус үр дагавар гэж “тогтоожээ”.
ХЭРХЭН ЗОХИЦУУЛАХ ВЭ
Хиймэл оюунаас үүдэлтэй аюул, эрсдэлийг бууруулах хамгаалалтын гол дутагдалтай тал нь хууль эрх зүйн зохицуулалт дулимаг байдал аж. Хиймэл оюуныг бие даасан хуулийн этгээд гэж хүлээн зөвшөөрдөггүй бөгөөд хохирлын хууль, эрх зүйн болон санхүүгийн хариуцлага нь хувь хүн болон байгууллага буюу хөгжүүлэгчид, эзэмшигчид, түүнчлэн операторуудад ногддог. Тэгэхээр эл технологийн аюулыг хуулийн дагуу хориглох боломжгүй. Хууль нь загваруудын шинэ хувилбарууд гарах хурдыг гүйцэж чадахгүй байна. Тиймээс энэ чиглэлийн аюулыг бууруулах цогц, нэгдсэн хуулийг олон улсын хэмжээнд идэвхтэй боловсруулж буй. Дэлхий хэмжээнд хиймэл оюуныг хатуу хууль, эрх зүйгээр зохицуулах алхам хийж байна. Энэ тал дээр Европын Холбоо Хиймэл оюуны тухай хуулиараа тэргүүлдэг. Эл хуулийн дагуу хиймэл оюун ухааныг эрсдэлээр нь бага, өндөр, хүлээн зөвшөөрөгдөхгүй гэж ангилж, 35 сая еврогийн торгуулиас эхлээд аюултай системд хориг тавих хүр¬тэлх шийтгэл ногдуулдаг. Ингээд зогсохгүй Европын Холбоонд энэ сарын 2 буюу өнгөрсөн ням гаргаас хиймэл оюуны талаарх шинэ дүрмүүд хэрэгжиж эхэлснийг ЕвроКомиссоос зарлав. Гэхдээ зөвхөн хуульд найдах нь энэ салбарын хувьд эрсдэлтэй. Тэгэхээр хөгжүүлэгчид, мэргэжилтнүүд өөрсдөө технологийнхоо хэт хурдацтай хөгжлийг зохицуулахад анхаарах нь чухал. Энэ тал дээр гар хумхилгүй эрэлхийлж буй бөгөөд дэлхийд тэргүүлэгч компаниуд хиймэл оюуны хөгжлийг автомат¬жуулахад ойрхон байгаагаа мэдээлсэн нь саяхан. Гэвч хиймэл оюуны хөгжлийг хэр түвшинд байлгах, хурдасгахыг яг таг таамаглахад хэцүү. Үүнтэй зэрэгцээд хиймэл оюунуудын шинэ систем бий болгох хүчин чадал хүмүүсийн ойлголт, тэдгээрийг хянах чадвараас давж гарах бодит эрсдэл байсаар. “Хиймэлүүдийг” хазаарлахад тулгардаг нийтлэг нэг зовлон бий. Хиймэл оюуны хөгжилд асар их хөрөнгө оруулалт хийдэг бөгөөд энэ нь том өрсөлдөөн гэсэн үг.
Өрсөлдөөн нь хамтын ажиллагаанд саад учруулж байна. Бүгд л тэргүүлэгч болохоор зорьж, тэмцдэг учраас энэ талын хөгжлийг удаашруулахыг хүсэхгүй байгаа нь маргашгүй үнэн гэдгийг Америкийн хиймэл оюун хөгжүүлэгч 1300 гаруй мэргэжилтний гарын үсэгтэй нээлттэй захидалд онцолжээ. Энэ бол хамгийн чухал асуудал бөгөөд уг бэрхшээлийг үгүй хийхээр олон улсын хиймэл оюун хөгжүүлэгчид эцсийн шатандаа нэгдэж эхэлсэн юм. УНТРААХ МЕХАНИЗМ БЭЛДЭЖ БАЙНА АНУ-ын эрх баригчид хиймэл оюуныг зохицуулах эхний том алхмыг энэ сарын 1-нд эхлүүлэх талаараа хоёр сарын өмнө мэдээлсэн. Дэвшилт хиймэл оюуны загваруудыг хөгжүүлэх, аюулгүй байдлын талаарх Д.Трампын захирамжид зааснаар бол энэ өдөр албан тушаалтнууд ямар системүүдийг “тусгай эмчилгээ”-нд хамруулахыг тодорхойлох ёстой. Товчхондоо бол Америк аюул учирсан үед яаралтай унтраах бүхэл бүтэн механизм бэлдэж байгаа аж. ChatGPT болон Claude хэмээх хиймэл оюуны агентууд хурдацтай хөгжиж буй энэхүү технологийн эрсдэлийг онцолж, сэрэмжлүүлэх дуудлага болсон. “OpenAI”-ийн туршилтын, бие даасан агент “Hugging face” нь технологийн стартап руу халдсаны дараа Нэгдсэн улсын хууль тогтоогчид хиймэл оюунд “унтраалга” хийхийг уриалаад, Засгийн газартаа хандаж яаралтай үед ийм системийг “номхотгох” эрх мэдлийг олгохыг хүсжээ. Өнгөрсөн долоодугаар сарын 30-нд буюу “OpenAI” компани нөхцөл байдлыг хяналтаасаа алдсанаа хүлээн зөвшөөрсний дараа Ардчилсан намын, Конгрессын гишүүн Тед Лиу болон Бүгд найрамдах намын Натаниэль Моран нар энэ талаарх хуулийн төсөл (AI kill switch act)- ийг танилцуулав. Халдлагад өртсөн стартапыг үүсгэн байгуулагч Т.Вольф хиймэл оюуны гэнэтийн довтолгоог “сэрүүлэг боллоо” гэж тодотгоод энэ нь ердийн кибер халдлагаас үндсэндээ өөр түрэмгийлэл гэж онцолжээ. Тэрбээр BBC-д өгсөн ярилцлагадаа “Ихэнх компани нөхцөл байдал эрс өөрчлөгдсөн, ердийнхөөрөө бизнес хийх боломжгүй болсон гэдгийг хараахан ойлгохгүй байна” хэмээжээ.
Одоогоор тус улсын төдийгүй дэлхийн хэмжээнд энэ салбарынхан ерөнхийдөө нэгдмэл байдлаар хиймэл оюуны хөгжлийг тохируулах, унтраах, хязгаарлахыг дэмжиж байна. Тэгвэл Америкийн зохицуулалтыг шүүмжлэгчид “Өрсөлдөөнийг боомилж, дэвшилт хиймэл оюуны загваруудын ашиг тус нь Засгийн газар болон хөгжүүлэгчдэд ойр хүрээллийн цөөн хүнд л хүрдэг хаалттай систем бий болгох эрсдэлтэй” гэж үзэж буй. Т.Лиу, Н.Моран нарын өргөн барьсан хуулийн төсөл нь Засгийн газрын зүгээс зохицуулалтгүй хэвээр буй, түүний хөгжил, нөлөө нь цөөн хэдэн корпорацын гарт төвлөрсөн технологид тодорхой хяналт тавих оролдлого гэж таашаахгүй байгаагаа ийнхүү илэрхийлэв. С.Алтман “Хиймэл оюунаар дамжуулан эрх мэдлийн төвлөрөл бий болох аюул¬тай”-г шүүмжлээд “тэргүүлэх эгнээний хөгжүүлэгчдийн дунд хуйвалдаан гарахаас зайлсхийх хэрэгтэй” гэжээ.
ТӨӨРӨГДӨХ АЮУЛ
Энэ наймдугаар сарын 2-ноос хүчин төгөлдөржиж эхэлсэн Европын Холбооны хиймэл оюуны талаарх шинэ дүрэмд заасны дагуу хүмүүст хиймэл оюунтай харьцаж байгаа, түүгээр үүсгэгдсэн контенттой “учрах” үедээ танихад нь туслах бөгөөд ингэснээр худал мэдээлэл, хууран мэхлэлтээс хамгаалах боломжтой болох аж. Цаашилбал, хэрэглэгчид бодит хүнтэй биш, харин чатбот, хиймэл оюуны агент, эсвэл аватар зэрэг системтэй харилцаж байх үедээ тодорхой мэдээлэлтэй байх ёстойг заажээ. Хиймэл оюуны бүтээсэн “хүн” буюу дүр төрхүүдийг бодит гэж ойлгож, төөрөгдөлд орох нь түгээмэл бөгөөд бараг хэвийн үзэгдэл болсон. Энэ нь тус технологийн том аюулын нэг юм. Хиймэл оюуны хөгжлийг удаашруулахыг уриалж буйтай холбогдуулан энэ ташрамд сонирхуулах үүднээс төөрөгдөл үүсгэсэн зарим нэг од, тод “бүсгүйн” талаар товчхон өгүүлье.
Бодит мэт бүтээгдсэн жүжигчин Тилли Норвуд (Нидерландын хошин урлагийн жүжигчин Элин ван дер Велден болон түүний “Particle6” компанийн “төрүүлсэн” дүр төрх бөгөөд үүнийг холливудад “дараагийн Скарлетт Йоханссон” болгох зорилготой), “Vogue” сэтгүүлийн өнгөрсөн оны наймдугаар сарын дугаарын нүүрийг анх чимсэн шаргал үст, загвар өмсөгч Гэсс (Загварын брэндүүдийн хиймэл оюуны маркетингийн агентлаг “Seraphinne vallora” бий болгосон) зэрэг хиймэл хүн цөөнгүй. Виртуал эмэгтэйчүүдээс хамгийн алдартай нь поп од, загвар өмсөгч Лил Микела, фитнесс блог хөтлөгч Айтана Лопез, гоо бүсгүйн тэмцээний ялагч Кенза Лайли. Мөн Микела Соуза буюу бразил, испани гаралтай 19 настай виртуал загвар өмсөгч, дуучныг 2016 онд Америкийн “Brud” студийн мэргэжилтнүүд бүтээжээ. Эл “бүсгүй” олон нийтийн мэдээллийн хэрэгслээр сая сая дагагчтай, “Prada”, “Calvin klein”-тэй гэрээ байгуулсан, “Time” сэтгүүлийн хамгийн нөлөө бүхий хүмүүсийн жагсаалтад багтсан.
Өөр нэг “хүн” нь Айтана Лопез. Испанийн “The Clueless” агентлаг ийм нэгэн виртуал эмэгтэйгээ “Барселонагаас ирсэн, 26 настай, тод ягаан үстэй, загвар өмсөгч” хэмээн танилцуулсан бөгөөд спортын брэндүүдийн сурталчилгаанаас сард хэдэн мянган евро хүүлдэг аж. Хиймэл “хүүхэн” Кенза Лайли бол Мароккогийн дижитал блог хөтлөгч бөгөөд 2024 онд 1500 виртуал өрсөлдөгчийн дунд болсон олон улсын тэмцээнд дэлхийн анхны “Хиймэл оюуны мисс” цол хүртсэн байдаг. Энэ мэтээр бичвэл дуусахгүй. Энэ бүхэн хиймэл оюуны бүтээл гэдгийг албан ёсоор зарласан ч бодит гэж андууран өөрийгөө тэдэнтэй зүйрлэн өөлж, шаналдаг хүн энэ дэлхий дээр маш олон байдгийг судалгаагаар тогтоожээ. Өөрөөр хэлбэл, виртуал орчинд “түгжигдмэл” хэдий ч хүн төрөлхтнийг төөрөгдүүлэх асар их хүчтэй “хиймлүүдийн” балаг, үр дагавар улам тэлсээр.
