В рамках конференции «PGConf.Russia 2020» состоялся круглый стол «Большие данные и искусственный интеллект на рынке финансовых услуг: возможности и опасности», на котором обсуждалист следующие вопросы:
- Ключевым конкурентным преимуществом систем, основанных на сборе больших данных и обработке их при помощи искусственного интеллекта, обычно считается возможность кастомизации продукта/ услуги под запросы конкретного потребителя. Но есть и менее приятные для потребителя аспекты: возможность предсказывать поведение потребителя и даже подталкивать его туда, куда хочет продавец (провайдер), а также ценовая дискриминация. Возможна ли кастомизация продуктов/услуг без негативных последствий? Есть ли исследования, посвященные внешним эффектам различных моделей организации высокотехнологичных рынков?
- Принятие людьми решений обычно связано с ошибками. Маловероятно, что системы искусственного интеллекта, созданные людьми, ошибаться не будут. Как выявлять и корректировать эти ошибки? Кто должен нести ответственность за погрешности в моделях и за результаты «неправильного машинного обучения»? Насколько публичны должны быть алгоритмы, и не породит ли открытость информации ускоренное распространение сложных мошенничеств? Есть ли примеры успешного исправления ошибок искусственного интеллекта?
- Обычно считается, что риски потребителя ограничивает либо просвещение, либо регулирование. Однако как объяснить потребителю то, что плохо понимают даже многие профессионалы, и как регулировать объекты, не имеющие четкого и единого определения (типа «больших данных» и «искусственного интеллекта»)? Создают ли новые технологии какие-то новые возможности для предотвращения угроз? Конкуренция в этой сфере ведет к росту рисков для потребителей или к их снижению? Есть ли какие-то «лучшие практики» по защите от опасностей?
- Как бороться с рисками несанкционированного использования больших данных? Как защитить приватность человека, помочь ему сохранить «непрозрачность» в той мере, в какой он этого хочет? Кто должен в идеале платить за развитие технологий – потребитель, инвестор или налогоплательщик?
Модерировал дискуссию Сергей Трухачёв, заместитель декана по развитию экономического факультета МГУ.
Презентация О. Лаврентьевой "О биометрии и распозновании лиц"
Презентация М. Петрова "Большие данные и искусственный интеллект на рынке финансовых услуг:возможности и опасности"
Презентация А. Курдина "Защита конкуренции в условиях развития больших данных и искусственного интеллекта"
Презентация А. Чертока "Искусственный интеллект в финансовой сфере"
