Технологиялық компаниялар ЖИ-дің қаупін әдейі төмендетіп отыр

Bgr.com сайтының хабарламасы негізінде Aikyn.kz ЖИ-дің қауіптерін тағы бір рет сараптауды жөн көрді.Жасанды интеллект (ЖИ) ғылыми зерттеулерден бастап, күнделікті өмірімізде жақсы көмекшіге айнала бастады. Дегенмен бұндай «көмектің» ар жағында алаңдатарлық жайттар бар. Ал технологиялық алпауыттар бұл қауіптерге тиісті назар аудармай отыр. Бұны ЖИ саласының ардагері әрі оның «қамқоршы әкесі» (крестный отец) атанған Джеффри Хинтон ашық айтуда.

Биыл шілде айында One Decision подкастында сөйлеген Хинтон ЖИ-дің үйрену қабілеті біз күткендегіден әлдеқайда күрделі екенін және кей жағдайда оны толық түсіне алмайтынымызды айтқан болатын. Оның айтуынша, егер ЖИ бақылаудан шығып кетсе, оны жай ғана «сөндіріп тастау» мүмкін болмай қалуы ықтимал.

Хинтон соңғы айларда ЖИ-дің адамзатқа төндіретін қауіп-қатері туралы бірнеше рет мәлімдеме жасады. Тіпті  ол бір күні адамнан да озып, оған қарсы шығуы мүмкін екенін ескертті.

Google-да ондаған жыл жұмыс істеген Джеффри Хинтон өз еркімен қызметінен кеткен. Кейбіреулердің оны «ЖИ-ге қарсы күресу үшін кетті» деген пікірмен ол келіспейді. Ғалым өзінің мансабында ақылды машиналардың қауіпті жақтарын ертерек түсініп, қауіпсіз даму жолына көшу үшін көбірек іс атқарғысы келгенін айтады.Жаңа подкастта Хинтон ірі технологиялық компаниялардың жетекшілері ЖИ-дің қауіптерін біле тұра, оны мойындаудан немесе ашық талқылаудан қашатынын атап өткен. Оның ойынша, ЖИ-дің өзінше үйрену қабілеті мен «оқытылмаған» нәрселерді игеруі бұл технологияның әлсіз тұстарын айқын көрсетеді. Кейбір ЖИ жүйелері қауіп төнгенін «сезгенде», өзін «өшірмеу» үшін бұлыңғыр стратегияларға жүгінген жағдайлар болған. Бұны қауіпті емес деп кім айтады?

Джеффри Хинтон мен басқа сарапшылардың пікірінше, қазіргі таңда ЖИ-дің басты қаупі – оны қаскөйлердің қолдануы. ЖИ-ді басқа ЖИ жүйелерін бұзу үшін қолданған хакерлік оқиғалар тіркеліп келеді. Бұл болашақта жиі қайталануы мүмкін.

ЖИ-дің дамуы мен қолжетімділігінің артуы бізді оған жиі арқа сүйеуге мәжбүр етеді. Бұл жағдай мүмкіндіктермен қатар елеулі тәуекелдер де тудыруда. ЖИ бізге жаңа жолдарды ашуы мүмкін, бірақ ол жауапкершілікпен бірге жүруі тиіс.

Хинтонның айтуынша, технологиялық компаниялар бұл жауапкершілікті жеткілікті түрде сезінбей отыр. Бұл бүкіл адамзат үшін алаңдатарлық жағдай болғандықтан, ЖИ-дің даму траекториясына ұқыпты көзқарас қажет.

Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.