БҰҰ тым кеш болмай тұрғанда ЖИ-ге бақылауды күшейтуге шақырды

Біріккен Ұлттар Ұйымы «ақылды» жасанды интеллект жүйелерін жасамас бұрын, оның ережелерін шұғыл түрде келісіп алуды ұсынып отыр. Адам құқықтары жөніндегі бас басшы Фолькер Тюрк егер ЖИ адамның бақылауынан шығып, өзін өшіруге жол бермейтін дәрежеге жетсе, бұл бүкіл адамзатқа үлкен қауіп төндіретіні ескертеді. Таяу күндері ол бұл мәселені ірі IT-компаниялармен талқылауды жоспарлап отыр, деп хабарлайды Kursiv.Media.

Мамандар не дейді?

Мамандардың айтуынша, барынша мықты бағдарламалар жасауға ұмтылу мен олардың бақылаусыз дамуы қазіргі адамның жеке өмірінен бастап құқықтарына дейін қауіп төндіреді.

«Аса қуатты жасанды интеллект жүйесі адамзаттың өмір сүруіне тікелей қауіп төндіруі мүмкін. Егер жүйе бақылаудан шығып кетсе немесе өзін өшірмес үшін оны жасаған адамдарға қарсылана бастаса, бұл оның тым қауіпті болып кеткенін білдіреді. Кеш болмай тұрғанда, бізге қатаң қауіпсіздік кепілдіктері керек. Таяу күндері мен IT-алыптарға осы мәселе бойынша нақты қадамдар жасау туралы үндеу тастаймын», – деді БҰҰ Адам құқықтары жөніндегі бас басшысы Фолькер Тюрк.

Мамандардың пікірінше, қазіргі нейрожелілер жай ғана өтірік ақпарат немесе фейк жасаудан әлдеқайда үлкен нәрселерді істей алады.

Бүгінгі таңдағы басты қауіп – цифрлық биліктің бір-ақ жерде шоғырлануы. Алып мәліметтер қоры мен негізгі технологиялар санаулы елдер мен компаниялардың қолына өтіп кеткен. БҰҰ осы монополистер жасанды интеллектті тек өз мүддесіне пайдалана ма деп қауіптенеді.

Қызығы, бұл пікірмен оны жасаушылардың өзі де келіседі. Мысалы, Anthropic компаниясы технология толықтай бақылаудан шығып кетпей тұрғанда шектеу енгізуге уақыттың өте аз қалғанын ескертті.

БҰҰ жалпыға ортақ қауіпсіздік ережелерін жасауға, халықаралық бірлесіп жұмыс істеуге және тәуелсіз ішкі тексеріс жүргізуге шақырады. Бұл ретте басты IT-гиганттар орналасқан елдерге ерекше жауапкершілік жүктеліп отыр.

Оқи отырыңыз: Өкпе обырын ерте анықтайтын ЖИ жүйесі неге іске қосылмай тұр