Нова техніка навчання штучного інтелекту зменшує соціальні упередження
Джерело: techxplore.com
Докторант Університету штату Орегон та дослідники з Adobe створили нову, економічно ефективну техніку навчання для систем штучного інтелекту, яка має на меті зменшити соціальні упередження.
Ерік Слайман з Коледжу інженерії OSU та дослідники Adobe назвали новий метод FairDeDup, скорочення від “fair deduplication” (справедливе видалення дублікатів). Видалення дублікатів означає усунення надлишкової інформації з даних, що використовуються для навчання систем ШІ.
Дослідники зазначили, що набори даних, зібрані з інтернету, часто містять упередження, присутні в суспільстві. Коли ці упередження кодифікуються в навчальних моделях ШІ, вони можуть підтримувати несправедливі ідеї та поведінку.
Розуміючи, як видалення дублікатів впливає на поширеність упереджень, можна пом’якшити негативні ефекти, такі як автоматичне відображення системою ШІ лише фотографій білих чоловіків, якщо попросити показати зображення генерального директора, лікаря тощо, коли передбачуваний сценарій використання має на меті показати різноманітні представлення людей.
Ми назвали його FairDeDup як гру слів на попередній економічно ефективній методиці, SemDeDup, яку ми вдосконалили, включивши міркування справедливості, – сказав Слайман. Хоча попередні дослідження показали, що видалення цих надлишкових даних може забезпечити точне навчання ШІ з меншими ресурсами, ми виявили, що цей процес також може посилити шкідливі соціальні упередження, які ШІ часто засвоює.
Слайман представив алгоритм FairDeDup минулого тижня в Сіетлі на конференції IEEE/CVF з комп’ютерного бачення та розпізнавання образів.
FairDeDup працює шляхом прорідження наборів даних з підписами зображень, зібраних з інтернету, через процес, відомий як обрізання. Обрізання означає вибір підмножини даних, яка представляє весь набір даних, і якщо це робиться з урахуванням змісту, обрізання дозволяє приймати обґрунтовані рішення про те, які частини даних залишаються, а які видаляються.
FairDeDup видаляє надлишкові дані, включаючи контрольовані, визначені людиною виміри різноманітності для пом’якшення упереджень, – сказав Слайман. Наш підхід дозволяє навчання ШІ, яке є не тільки економічно ефективним і точним, але й більш справедливим.
Окрім професійної діяльності, раси та статі, інші упередження, що виникають під час навчання, можуть включати ті, що пов’язані з віком, географією та культурою.
У співпраці зі Слайманом працювали Стефан Лі, доцент Коледжу інженерії OSU, та Скотт Коен і Кушал Кафле з Adobe.