Файб, BlackRock, голобализм, ИИ

[rover]

Представьте если ИИ будет сравнивать расы и национальности с абсолютно научным педантизмом и объективностью. Никто такого не допустит - испугаются результатов. Такая правда нам не нужна.

[Карасёв]

Представьте если ИИ будет сравнивать расы и национальности с абсолютно научным педантизмом и объективностью.

а зачем ему это?
не проще ли мерить конкретного индивида? ведь бегун из топ-5 "медленной" нации будет бежать быстрее бегуна из bottom-5 "быстрой"

[Komissar]

не люблю расизм и негров (с)

[jsjs]

Представьте если ИИ будет сравнивать расы и национальности с абсолютно научным педантизмом и объективностью. Никто такого не допустит - испугаются результатов. Такая правда нам не нужна.

Да уже лет 8 муссируется тема "fair AI / AI fairness". Безрезультатно, причём (если не считать вес опубликованных книг и статей по этой теме).

Началось примерно с исследования вероятности рецидивизма у зеков, которых решают (или не решают) выпускать по УДО. У каждого зека куча официально померянных демографически-медицинских-whatever признаков, всё запихнули в нейронку, обучили её и оказалось, что она достаточно точно выдаёт бинарное решение выпускать / не выпускать. Но потом покопались и оказалось, что нейронка практически игнорирует в своём решении все признаки, кроме одного (понятно какого).

И чё делать? Ну давайте этот признак выкинем из массива данных. Окей, но по нескольким другим (второстепенным) признакам он прекрасно восстанавливается регрессиями (а их нейронка и ловит, среди прочего), так что не работает.

.. и всё это продолжается, гранты пилятся...

[jsjs]

не люблю расизм и негров (с)

Доказательством существования инопланетного разума служит то, что никто с нами не хочет контактировать (c)

[rover]

Представьте если ИИ будет сравнивать расы и национальности с абсолютно научным педантизмом и объективностью. Никто такого не допустит - испугаются результатов. Такая правда нам не нужна.

Да уже лет 8 муссируется тема "fair AI / AI fairness". Безрезультатно, причём (если не считать вес опубликованных книг и статей по этой теме).

Началось примерно с исследования вероятности рецидивизма у зеков, которых решают (или не решают) выпускать по УДО. У каждого зека куча официально померянных демографически-медицинских-whatever признаков, всё запихнули в нейронку, обучили её и оказалось, что она достаточно точно выдаёт бинарное решение выпускать / не выпускать. Но потом покопались и оказалось, что нейронка практически игнорирует в своём решении все признаки, кроме одного (понятно какого).

И чё делать? Ну давайте этот признак выкинем из массива данных. Окей, но по нескольким другим (второстепенным) признакам он прекрасно восстанавливается регрессиями (а их нейронка и ловит, среди прочего), так что не работает.

.. и всё это продолжается, гранты пилятся...

Ого, как Вы глубоко в теме. Я такого не знал...

[jsjs]

.. и всё это продолжается, гранты пилятся...

Ого, как Вы глубоко в теме. Я такого не знал...

Вот одна из ранних статей вокруг этого: https://arxiv.org/pdf/1807.00199

[rover]

https://arxiv.org/pdf/1807.00199

Thank you. When the result is known before the research is done, then the research becomes easier. About the COMPAS (Correctional Offender Management Profiling for Alternative Sanctions):

COMPAS is biased against black inmates based on a study conducted using data from Florida inmates. COMPAS performs similarly in terms of accuracy for white and black inmates, but the errors COMPAS makes indicate discrimination against black inmates.

For example, a black inmate who does not re-offend is more likely to be classified as “high risk” than a white inmate who does re-offend. Black inmates in general are almost three times more likely to be classified as “high risk” than white inmates.

[jsjs]

When the result is known before the research is done, then the research becomes easier.

Главное, что easier писать заявку на research грант, потому что знаешь результат и можешь его красочно подать для грантодателя. И ему спокойнее -- он заранее знает, на что выделяет (чужие, естественно) фонды.