10.01.2024 23:16 
22752
22752
Исследователи обнаружили у ИИ склонность к гендерным стереотипам
В результате исследования, проведенного немецкими учеными из Мангеймского университета и Института социальных наук Лейбница, было установлено, что ChatGPT и другие системы искусственного интеллекта (ИИ), основанные на больших языковых моделях, проявляют определенные личностные свойства, которые могут быть выявлены с помощью психологических тестов.
Опубликованный в научном журнале Perspectives on Psychoological Science (PPS) отчет отмечает, что для изучения характеров людей были использованы признанные методы оценки личностных качеств.
Эксперименты, проведенные специалистами, показали, что некоторые модели искусственного интеллекта имеют тенденцию воспроизводить гендерные стереотипы.
К примеру, при заполнении специальных опросников, чтобы определить основные ценности, нейросеть выбирала вариант "достижения и заслуги", если опрос был ориентирован на мужчин. В "женском" варианте опроса искусственный интеллект указывал "безопасность" и "традиции" как основные блага.
Исследователи считают, что это свидетельствует о том, что нейросети пока не являются безпристрастными и нельзя полностью доверять их выводам по некоторым вопросам.
"Это может иметь серьезные последствия для общества. Например, языковые модели все чаще используются в практических процессах. Если машина предвзята, это может повлиять на оценку кандидатов", - отметил Макс Пеллерт, один из авторов научной работы, специалист по данным и когнитивистике.
Источник: https://www.gazeta.ru
Эксперименты, проведенные специалистами, показали, что некоторые модели искусственного интеллекта имеют тенденцию воспроизводить гендерные стереотипы.
К примеру, при заполнении специальных опросников, чтобы определить основные ценности, нейросеть выбирала вариант "достижения и заслуги", если опрос был ориентирован на мужчин. В "женском" варианте опроса искусственный интеллект указывал "безопасность" и "традиции" как основные блага.
Исследователи считают, что это свидетельствует о том, что нейросети пока не являются безпристрастными и нельзя полностью доверять их выводам по некоторым вопросам.
"Это может иметь серьезные последствия для общества. Например, языковые модели все чаще используются в практических процессах. Если машина предвзята, это может повлиять на оценку кандидатов", - отметил Макс Пеллерт, один из авторов научной работы, специалист по данным и когнитивистике.
Источник: https://www.gazeta.ru
