#праздное

Раскрою более подробно тогда риски, которые описывают авторы. Хотя если искать непосредственно список рисков в статье, его не найти - они говорят о целях, которые надо достичь. Но из них (гл. 6 в частности) я мог извлечь следующие риски (помимо тех что в посте):
1. Неприятие социумом беспрецедентного повышения роли технологии в жизни («interplay between technology and society»)
2. Риск ИБ, который нужно решать выравниванием, post-hoc фильтрами и редтимингом.
3. Галлюцинации (и меры борьбы с ними - grounding)

Это все не потеряло актуальность, конечно. Но в бизнес-эквиваленте я не вижу в конечном счете ничего, кроме репутационных рисков.
А вот в 2025 социум, видимо, уже легче будет относится к ИИ. Потому что в коммерческом поле появляются решения с агентами, которые будут иметь доступ к платежным сервисам (Zhixiaobao), будут интерфейсами управления IoT (Google Nest и пр.), будут знать очень много ПД (Linky AI и пр.). То есть будут прямые финансовые и имущественные риски. Так что ИИ-безопасность, кажется, выйдет на новый уровень в ближайшие 2-3-5 лет

Интересный вопрос задал Евгений. Дополню пост ответом на него)

Тэги

#ai - про искусственный интеллект крупным планом
#ml_для_иб
#иб_для_ml
#иб
#праздное - смешное и/или личное
#данные
#технологии
#mil - военная тематика
#hr - про найм в области пересечения ИИ и ИБ, про необходимые навыки

#праздное

Полная профдеформация - это когда о сбоях работы Steam'а ты узнаешь из канала ГосСОПКи...

Форум "Технологии доверенного искусственного интеллекта"
#иб_для_ml

Всем привет! Плотно идут очень важные конференции, и вчера все мое внимание заняла безопасность ml и устройство доверенного ИИ.
Открылась конференция ключевым диалогом по теме форума между зам. главы Минцифры Шойтовым, зам. директора ФСТЭК Лютиковым, директором департамента м/нар. ИБ МИД Люкмановым, директором ИСП РАН Аветисяном и директором по информационной инфраструктуре Росатом Абакумовым.
Вашему вниманию представляются ключевые тезисы этого обсуждения:

https://telegra.ph/Tekstovyj-konspekt-plenarnoj-diskussii-II-foruma-Tehnologii-Doverennogo-II-05-28

Telegraph

Текстовый конспект пленарной дискуссии II форума "Технологии Доверенного ИИ"

Шойтов. Применение ИИ составляет около 11 трлн. в составе ВВП России. Европейский подход к регуляторике ИИ с самый жесткий из мировых, американский самый мягкий. Однако американские компании выполняют требования по соответствию европейскому законодательству.…

Интервью с Алексеем Лукацким совместно с @We_will_call_youback!

#ai #иб

Поспрашивали про профессии в ИБ в будущем и роль ИИ в их формировании)