[ad_1]
Naukowcy z Carnegie Mellon University i Stevens Institute of Technology, w tym John Hooker i Derek Leben, zaproponowali nową metodę poprawy sprawiedliwości sztucznej inteligencji. Metoda ta, zwana optymalizacją dobrobytu społecznego, koncentruje się na ogólnych korzyściach i szkodach dla jednostek, a nie na wskaźnikach akceptacji w różnych grupach. Badanie kładzie nacisk na „sprawiedliwość alfa”, która równoważy sprawiedliwość i wydajność. Takie podejście może prowadzić do lepszych wyników dla grup znajdujących się w niekorzystnej sytuacji w sytuacjach takich jak rozmowy kwalifikacyjne lub zatwierdzanie kredytów hipotecznych. Odkrycia te mogą pomóc twórcom sztucznej inteligencji w tworzeniu bardziej sprawiedliwych modeli, a decydentom politycznym w uwzględnieniu sprawiedliwości społecznej w rozwoju sztucznej inteligencji.
Nowe spojrzenie na sprawiedliwość AI: Optymalizacja dobrobytu społecznego
Naukowcy z Carnegie Mellon University i Stevens Institute of Technology zaproponowali nowe podejście do oceny sprawiedliwości decyzji podejmowanych przez sztuczną inteligencję. Ich metoda, szczegółowo opisana w niedawnym artykule, opiera się na koncepcji optymalizacji dobrobytu społecznego. Ta ugruntowana zasada ma na celu zwiększenie sprawiedliwości poprzez rozważenie ogólnych korzyści i szkód dla jednostek. Naukowcy sugerują, że metoda ta może zostać wykorzystana do oceny standardowych narzędzi branżowych w zakresie uczciwości sztucznej inteligencji, które zazwyczaj koncentrują się na wskaźnikach zatwierdzania w grupach chronionych.
John Hooker, profesor badań operacyjnych w Tepper School w Carnegie Mellon, jest współautorem badania. Wyjaśnia on, że społeczność AI dąży do zapewnienia sprawiedliwego traktowania grup różniących się poziomem ekonomicznym, rasą, pochodzeniem etnicznym, płcią i innymi kategoriami. Artykuł, który otrzymał nagrodę Best Paper Award, został zaprezentowany na Międzynarodowej Konferencji na temat Integracji Programowania Ograniczeń, Sztucznej Inteligencji i Badań Operacyjnych (CPAIOR) w Uppsali w Szwecji.
Koncepcja sprawiedliwości alfa w sztucznej inteligencji
Badanie wprowadza koncepcję „sprawiedliwości alfa”, czyli metodę zachowania równowagi między sprawiedliwością a maksymalizacją korzyści dla wszystkich. Sprawiedliwość alfa można dostosować, aby zrównoważyć sprawiedliwość i wydajność w mniejszym lub większym stopniu, w zależności od sytuacji.
Rozważmy scenariusz, w którym system sztucznej inteligencji decyduje o tym, kto zostanie zatwierdzony do kredytu hipotecznego lub kto zostanie zaproszony na rozmowę kwalifikacyjną. Tradycyjne metody sprawiedliwości mogą jedynie zapewnić, że ten sam odsetek osób z różnych grup zostanie zatwierdzony. Jednak odmowa kredytu hipotecznego może mieć znacznie bardziej negatywny wpływ na osobę z grupy defaworyzowanej niż na osobę z grupy uprzywilejowanej. Stosując metodę optymalizacji dobrobytu społecznego, systemy sztucznej inteligencji mogą podejmować decyzje, które prowadzą do lepszych wyników dla wszystkich, szczególnie dla osób z grup znajdujących się w niekorzystnej sytuacji.
Optymalizacja dobrobytu społecznego i sprawiedliwość grupowa
Naukowcy pokazują, w jaki sposób optymalizacja dobrobytu społecznego może być wykorzystana do porównania różnych ocen sprawiedliwości grupowej stosowanych obecnie w sztucznej inteligencji. Korzystając z tej metody, możemy zrozumieć korzyści płynące z zastosowania różnych narzędzi sprawiedliwości grupowej w różnych kontekstach. Łączy ona również te narzędzia oceny sprawiedliwości grupowej z szerszym światem standardów efektywności sprawiedliwości stosowanych w ekonomii i inżynierii.
Derek Leben, profesor nadzwyczajny etyki biznesu w Tepper School i Violet Chen, adiunkt w Stevens Institute of Technology, są współautorami badania. Leben sugeruje, że optymalizacja dobrobytu społecznego może zapewnić wgląd w intensywnie dyskutowaną kwestię tego, jak osiągnąć sprawiedliwość grupową w sztucznej inteligencji.
Implikacje dla twórców sztucznej inteligencji i decydentów politycznych
Badanie ma istotne implikacje zarówno dla twórców systemów sztucznej inteligencji, jak i decydentów. Deweloperzy mogą tworzyć bardziej sprawiedliwe i skuteczne modele sztucznej inteligencji, przyjmując szersze podejście do sprawiedliwości i rozumiejąc ograniczenia miar sprawiedliwości. Podkreśla również znaczenie uwzględnienia sprawiedliwości społecznej w rozwoju sztucznej inteligencji, zapewniając, że technologia promuje sprawiedliwość wśród różnych grup społecznych.
Artykuł został opublikowany w CPAIOR 2024 Proceedings. Odkrycia naukowców sugerują, że optymalizacja dobrobytu społecznego może być cennym narzędziem w trwających wysiłkach na rzecz uczynienia sztucznej inteligencji bardziej sprawiedliwą dla wszystkich. Biorąc pod uwagę ogólne korzyści i szkody dla jednostek, metoda ta może prowadzić do bardziej sprawiedliwych wyników, szczególnie dla osób z grup znajdujących się w niekorzystnej sytuacji.
[ad_2]