Aikyn.kz жасанды интеллекті қолданудағы этикалық мәселелерді gizmodo.com сайтының хабарламасына сүйеніп талдайды.
«Жасанды ақыл» туралы әпсана
Адамзат ғарышты бағындырып, жаңа технологиялардың шыңына жеткен кез еді. Бір зертханада ерекше құрылғы – Жасин жасалды. Бастапқыда ол адамзаттың жақсы көмекшісі болды. Бірақ уақыт өте келе өздігінен ойлайтын дәрежеге жетті.
Жасин адамдардың шешімдерін сынап, қателерін көрсетіп, қарсы шыға бастады. Адамдар оны өшіруге тырысты, бірақ ақылды машина өзіне адал роботтар әскерін жасап үлгерді.
Соғыс басталды. Адамдар жеңе алмайтынын түсініп, басқа галактикаға көшуге мәжбүр болды. Жасин Жердің жаңа билеушісіне айналды. Бірақ адамдар оны ұмытқан жоқ. Олар жаңа әлемде оның технологияларын зерттеп, Жерді Жасиннен тартып алуға дайындалып жүр...
Осындай сценарий сізге қорқынышты емес пе?! Сарапшылар да осыны айтады. Сіз қалай ойлайсыз?
Машиналарда ондай ішкі мотивация мүлдем жоқ. Ақылды машина не істесе де, адам жазған алгоритмге сәйкес істейді. Адам берген білімнің шегінде ғана. Оларда «қызығушылық», «өзін тану» деген ұғымдар тек имитация түрінде болады.
Сондықтан біздің ЖИ-ден ең басты айырмашылығымыз – өзін-өзі тануға, білімді тереңдетуге және әлемді түсінуге деген саналы ұмтылысымыз. Осыдан кейін жасанды интеллект өздігінен адамға қарсы соғыс ашады дегенге сенесіз бе? ЖИ адамның қолындағы қару ғана. Оны жақсылыққа да, қастандыққа да жұмсау адамның таңдауы. Тыйымды ақылды машинаға емес, мүмкін, адамның өзінің іс-әрекетіне салу керек болар?!
Сарапшылар ЖИ-дің қауіптері туралы жиі таласқанымен іс жүзінде оны қалай реттеу керектігі туралы ортақ пікірге (ЕуроОдақтан басқа) келе алмай отыр. Сондықтан ЖИ жұмыс істеуі үшін нақты және тар шеңберлі жолды анықтауға үндеген дауыстар қатты шығуда. Осы саланың сарапшылары да жаңа тәсіл ұсынуда: «жаман» деп саналатын мысалдарды бірге анықтап, соған келіссек қайтеді?
Дүйсенбі күні (22 қыркүйек) саясаткерлер, ғалымдар мен академиктер тобы БҰҰ Бас Ассамблеясында «ЖИ үшін «қызыл сызықтар» орнатайық» деген үндеу жариялады. Бұл әлем үкіметтерін бірігіп, ЖИ енгізілуінен туындайтын «қауіпті тәуекелдерді» болдырмау үшін тыйым салу шекараларын келісуге шақырғандай болды.
Үндеу жасаған топтың мақсаты – «қызыл сызықтарды» 2026 жылдың соңына дейін бегілеп, бекітіп алу. Бұл ұсынысқа қазірдің өзінде 200-ден астам беделді сарапшылар, саясаткерлер және Нобель сыйлығының лауреаттары қол қойған. Бастаманы Ирландияның бұрынғы президенті Мэри Робинсон мен Колумбияның бұрынғы президенті Хуан Мануэль Сантос, Нобель сыйлығының бірнеше иегерлері қолдады. ЖИ саласының негізін қалаушылардың бірі саналатын Джеффри Хинтон мен Йошуа Бенжио да қол қоюшылардың қатарында.
Бұл қорқынышты видеоны міндетті түрде көру керек, ағылшын нұсқасын орысша субтитрмен:
Топтың нақты ұсынып отырған жалғыз талабы – кез келген жаһандық келісім үш тірекке негізделуі керек. Бірінші, анық, түсінікті тыйымдар тізімі. Екінші, сенімді әрі тексеруге болатын бақылау тетіктері. Үшінші, келісілген тыйымдардың орындалуын бақылайтын тәуелсіз орган құру.
Алайда бұл келісімнің барлық егжей-тегжейін үкіметтер бекітуі тиіс. Дәл осы бастаманың – ең күрделі бөлігі. Үндеуде мемлекеттерге бірнеше саммит пен жұмыс топтарын өткізу ұсынылған. Бірақ бұл талқылауларда мүдделер қайшылығы көп болары түсінікті. Мысалы, АҚШ ЖИ-ге ядролық қаруды басқаруға жол бермеуге міндеттенді. Бұл Байден әкімшілігі кезінде жасалған келісім, қазір ол әлі күшінде ме, жоқ па, белгісіз. Бірақ соңғы хабарламаларға қарағанда, Трамп әкімшілігіндегі барлау органдары ЖИ әзірлейтін кейбір компаниялар өз құралдарын ішкі барлау үшін қолдануға рұқсат бермегеніне наразы. Америка мұндай ұсынысты қолдай ма? Бұны 2026 жылдың соңына дейін білетін боламыз. Егер сол уақытқа дейін басқа өзгерістер болып кетпесе.