Лента новостей → Нейросеть научилась определять расу людей по рентгену лёгких. И никто не понимает как
Американские учёные заметили, что искусственный интеллект научился с точностью 90% определять расу человека по рентгеновскому снимку груди.
Ученые пока не понимают, как это происходит: алгоритмы не опираются ни на диагноз, ни на индекс массы тела, ни на плотность костей. Однако они выдают правильный результат даже на основе старых и некачественных изображений. Необычную способность ИИ подтвердил анализ 200 тысяч людей разных рас, возраста и пола.
По мнению исследователей, алгоритм может видеть какие-то неизвестные науке признаки меланина. Этот пигмент отвечает на цвет кожи. Умение искусственного интеллекта определять расу само по себе может быть незначительным, однако ученые предполагают, что это может привести к дискриминации и предубеждениям. Если алгоритмы точно знают расу пациента и склонны на ее основе ставить диагноз, то предположительно вырастет число врачебных ошибок.