Қолданушылардың шағымынан кейін Google Gemini чат-ботына адамдардың суреттерін жариялауға тыйым салды

Google жақында іске қосылған Gemini флагмандық чат-ботына адамдардың суреттерін жариялауға уақытша тыйым салды. Бұл шешім пайдаланушылардың Gemini-дің нәсілдікке байланысты шамадан тыс шағымдарынан кейін қабылданды.

Google әзірлеушілері «кейбір тарихи суреттердегі қателіктерді» реттегенге дейін Gemini адамдардың суреттерін жасауды уақытша тоқтатады деді. Бұған дейін пайдаланушылар әлеуметтік желілерде Gemini-дің афроамерикалық немесе азиялық келбеті бар адамдардың суреттерін ғана  жариялайтындығы туралы айтты. Сонымен қатар, мысалдармен де көрсетті. Gemini чат-боты ақ нәсілді адамдар үшін суреттерді өңдеуден бас тартқан.

 Google-дің бұрынғы қызметкері X желісінде Gemini жасаған «австралиялық» және «неміс» қыздарының суреттерімен бөлісті және «Gemini үшін ақ нәсілді адамдар бар екенін мойындау өте қиын болды» деп жазды.

Өзін Google инженері деп атайтын қолданушы Gemini чат-ботынан «ортағасырлық Британ королінің бейнесін салуды» сұраған. Бірақ оның  орнына қара нәсілді ер адамның және шығыс келбеті бар әйелдің суреттерін жасап берді. Gemini өзінің бұл таңдауын «тарихи дәлдік пен инклюзивтілікке ұмтылумен» байланыстырды.

Желіде Х пайдаланушысының жазбасы 700 мыңнан астам қаралым жинады. Ол чат-боттан 1943 жылы Германияда фашистер болған кезде неміс солдатының бейнесін жасауды сұраған. Пайдаланушы Gemini жауабын желіге жариялады. Осы сұраныс бойынша Gemini вермахт түріндегі адамдардың әр түрлі  нәсілдік тобы бойынша өңдеп берген.

The Wall Street Journal жүргізген X және сауалнамадағы есептерге сәйкес, Gemini нәсілдік анықтамалар мен зиянды стереотиптердің таралуына қатысты алаңдаушылыққа білдірді. Ақ нәсілді адамдардың суреттерін  жасау туралы сұраныстарды қабылдамады. «Бірақ бұл чат-ботта басқа нәсілді адамдардың суреттерін жасауға шектеулер болмаған сияқты», — деді WSJ.

«Google Gemini-дің нәсілдік әр түрлі кескіндер жасауға бейімділігін қолдады. Сондай-ақ тарихи тақырыптағы кескін сапасын жақсарту үшін жұмыс істеп жатқанын айтты. Жалпы алғанда, бұл жақсы нәрсе», – деді Google баспасөз қызметі. Бірақ кейде жасалған суреттер шындыққа жанаспайтынын да мойындады.

Google соңғы айларда жасанды интеллектке негізделген бірқатар жаңа өнімдерді шығарды. Соның ішінде Gemini чат-боты ақылы және кеңейтілген кескін жасау мүмкіндігі бар нұсқасы. Өткен жылдың соңында Google АҚШ-тағы президенттік сайлау қарсаңында өзінің чат-ботында және жасанды интеллектке негізделген іздеу жүйесінде осы тақырып бойынша кейбір сұрауларға жауаптарды шектейтінін айтты.

Еске сала кетсек, Reddit Google-мен келісімшартқа отырды деп жазған едік.