Лучшие публикации Новые публикации
Ученые не смогли понять логику принятия решений ИИ
17 мая 2018

Ученые не смогли понять логику принятия решений ИИ

Одним из наиболее важных вопросов, поднятых на конференции Neural Information Processing Systems, является принцип принятия решений системами ИИ.

Как отмечают эксперты, до тех пор, пока человечество не будет понимать эти основы, о передаче в управление ИИ различного оборудования не может быть и речи.

Результаты исследований в этой области красноречиво сигнализируют о том, что случаи принятия достаточно противоречивых решений не редки. Зачастую они могут быть просто предвзятыми. При этом самым важным остается то, что разработчики не до конца понимают саму логику. Имея вполне конкретные начальные параметры, системы ИИ порой выдают различные решения.

Ученые не смогли понять логику принятия решений ИИ

Цена таких решений может быть очень высока. Например, при будущей экспедиции на Марс исследователи делают серьезную ставку на ИИ при управлении космическим оборудованием. Однако, следует отдавать себе отчет в том, что любое неверное решение повлечет за собой не только потерю дорогостоящего космического аппарата, но и человеческие жертвы. По мнению представителей Google, изучение принципов построения решений является краеугольным камнем всех будущих систем управления.

Ученые не смогли понять логику принятия решений ИИ

В рамках конференции была предложена методика анализа построения решений ИИ. «В основу работы положена методичная проверка миллионов операций отдельных участков нейронных сетей, для выявления локальных мест, дающих ложный импульс. Выявив такие места, внести требуемые корректировки уже не представляет сложности», - отмечает эксперт из NASA Кири Вагстафф.
Комментарии (2)
Что бы оставить комментарий, Вы должны авторизироваться
2018-05-17 17:56:53
Наверно ученые больше деньги хотят
Tom
2018-05-17 18:02:23
Главное — решить проблему до того, как станет слишком поздно.
Похожие публикации
Теги публикации