В САЩ подготвят закон за проверка на безпристрастността на алгоритмите с изкуствен интелект

В американския конгрес беше представен закон (Algorithmic Accountability Act), който предвижда големите компании да проверяват системите за машинно обучение за прояви на пристрастия. Двигател на исканите промени е Демократическата партия, която внесе аналогичен закон и в Камарата на Представителите. Технологиите за машинно обучение и изкуствен интелект вече имат доста широко поле на употреба в сфери като лицево разпознаване, автономни коли, насочени реклами, модериране на съдържание и др.

Законодателите искат да решат проблема с това на базата на какво тези системи вземат съответните решения. За целта се предвижда създаването на нови регулации от Федералната комисия по търговията (FTC), които да изискват от компаниите да проведат „оценка на влиянието“ на автоматизираните системи, вземащи решения. Трябва да бъдат прегледани и подаваните за обучението им данни за точност, дискриминация, пристрастия, сигурност и защита на личните данни.

Новите закони ще засегнат компаниите с оборот над 50 милиона долара годишно или работещи с личните данни на над милион души. Като пример за дискриминация изниква случаят със системата за подбор на кандидати за работа в Amazon през 2018. Тогава заявките от жени са били класирани на последно място при решение дали да бъде проведено интервю за работа.

Източник: Gizmodo

  • Единственият начин да пази еднакво хора на улицата с различен цвят на кожата е да се влоши нарочно алгоритъма за светлите обекти. Не го приемам за справедливо.
    tzincbg
  • Не знам дали осъзнавате колко изключително важно е това!
    mishobehar