Clearview AI столкнулась с крупнейшим штрафом за нарушение GDPR в Европе

Компания Clearview AI, базирующаяся в США и занимающаяся технологией распознавания лиц, была оштрафована на 30,5 миллионов евро нидерландским органом по защите данных, Autoriteit Persoonsgegevens (AP), за нарушение GDPR. Этот штраф стал крупнейшим для Clearview AI в Европе и был наложен после того, как подтвердилось, что база данных компании содержит изображения граждан Нидерландов, собранные без их согласия. AP предупредил, что дополнительные штрафы до 5,1 миллиона евро могут последовать, если компания продолжит нарушать европейское законодательство о защите персональных данных.

Это решение является примером экстерриториального действия GDPR, который применяется к личным данным резидентов ЕС, независимо от того, где происходит их обработка. Несмотря на утверждения Clearview о том, что компания не подчиняется юрисдикции ЕС, нидерландский регулятор дал ясно понять, что нарушения законов о персональных данных в ЕС не будут терпимы, сигнализируя о жесткой позиции против незаконных практик обработки данных.

#GDPR #ClearviewAI

Центр исследований Стенфорда опубликовал обзор требовании к ИИ общего назначения в рамках Закона ЕС об ИИ

Центр исследований фундаментальных моделей Стэнфорда опубликовал обзор требований к ИИ общего назначения, с акцентом на последствия принятия Закона ЕС об ИИ. Анализ содержит 25 ключевых требований, главным образом касающихся обязательств разработчиков по раскрытию информации правительственным органам. Прозрачность для общественности остается ограниченной: только одно требование предусматривает раскрытие общественности краткого содержания данных, использованных для обучения модели.

Особое внимание в обзоре уделяется строгим требованиям к моделям, которые считаются представляющими системные риски, таким как обязательное снижение рисков, отчетность о происшествиях и меры по кибербезопасности. В настоящее время критериям моделей, представляющих системных риск соответствуют восемь крупных разработок, например, модели от Google и OpenAI.

#ИИ #AIAct

Новое исследование показало проблемы конфиденциальности данных в экосистеме GPT

Недавнее исследование Вашингтонского университета выявило значительные проблемы с конфиденциальностью данных в экосистеме GPT от OpenAI. Несмотря на существующие правила OpenAI, многие приложения GPT и встроенные программы собирают данные пользователей без должного уведомления и согласия, что вызывает серьёзные опасения по поводу безопасности данных и конфиденциальности. Исследование показало, что только 5,8% этих приложений явно раскрывают свои методы сбора данных, при этом некоторые собирают даже такую конфиденциальную информацию, как пароли.

По мере расширения использования ИИ важно, чтобы такие компании, как OpenAI, обеспечивали более строгое соблюдение правил и предоставляли пользователям прозрачные инструменты управления конфиденциальностью. Это важно не только для соблюдения регуляторных норм, но и для укрепления доверия к новым технологиям ИИ.

#ИИ #Privacy

Полицейский из Индианы обвинен в злоупотреблении технологией распознавания лиц

Офицер полиции из Индианы ушел в отставку после того, как выяснилось, что он часто злоупотреблял технологией распознавания лиц Clearview AI, чтобы отслеживать пользователей социальных сетей, не связанных с какими-либо преступлениями. По данным полиции Эвансвилля, офицер маскировал личные запросы, используя реальные номера дел, связанных с настоящими инцидентами.

Проверка показала необычно высокое использование Clearview AI, так как полицейский в основном искал изображения из социальных сетей, а не записи с камер видеонаблюдения, которые обычно используются в расследованиях.

Этот инцидент подчеркивает значительные опасения по поводу злоупотребления технологиями распознавания лиц и указывает на необходимость более строгих мер контроля, чтобы предотвратить их неправильное использование.

#ИИ #ClearviewAI

Сингапур представил рамочную модель управления генеративным ИИ

30 мая Сингапур выпустил Model AI Governance Framework for Generative AI, разработанную в сотрудничестве с Управлением по развитию инфокоммуникационных технологий (Infocomm Media Development Authority, IMDA) и Фондом AI Verify. Этот документ посвящен вопросам, связанным с генеративным ИИ, и описывает девять ключевых аспектов, необходимых для его регулирования.

Документ подчеркивает важность принципов ответственности, прозрачности, справедливости, устойчивости и безопасности. Сингапур призывает к сотрудничеству между законодателями, представителями отрасли, исследователями и другими заинтересованными сторонами для эффективного управления ИИ. Среди ключевых предложений — меры по обеспечению целостности данных, надежной разработки, безопасности, отчетности об инцидентах и независимому тестированию.

Этот документ может стать основой для глобального диалога и разработки эффективных политических подходов, чтобы обеспечить безопасное и этичное использование ИИ во всем мире, одновременно стимулируя инновации.

#ИИ #AIGovernance #GenerativeAI #Singapore

Как подготовиться к экзамену Artificial Intelligence Governance Professional от IAPP?

Темы, которые необходимо изучить для сдачи экзамена, изложены в Body of Knowledge. Также на сайте IAPP опубликован список основных терминов, которые надо знать, и другие онлайн-источники по теме.

В случае, если позволяет бюджет, возможно приобрести онлайн-курс от IAPP, который поможет вам получить обзорные знания по каждой из тем. Вместе с тем, простого прослушивания курса может быть недостаточно. Например, каждые упоминаемые нормативные акты или руководства необходимо внимательно прочитать и хорошо понимать.

Особое внимание рекомендую уделить:

✅ OECD AI Principles
✅ White House Office of Science and Technology Policy Blueprint for an AI Bill of Rights
✅ NIST AI Risk Management Framework
✅ Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence
✅ EU AI Act

Этот список далеко не исчерпывающий. Потребуется изучить законодательство отдельных штатов в США, смежные европейские законы (GDPR, DSA и др.), а также Китая, Канады и Сингапура.

Для общего понимания технической стороны работы систем ИИ и машинного обучения, если вы не из IT, полезно посмотреть вот эти видео от IBM.

Очень ценный источник - Study Guide от щедрого энтузиаста, поделившегося своими материалами бесплатно. Гайд разделен на темы и содержит краткое изложение необходимых знаний с полезными ссылками на источники.

Чтобы попробовать свои силы, потренироваться и понять логику экзаменационных вопросов, на сайте IAPP можно приобрести тренировочные вопросы с подробными разъяснениями правильных ответов.

Про то, как проходит сам экзамен, напишем отдельный пост.

#AIGP #IAPP

ISO разместила в публичном доступе стандарт по управлению ИИ

Международная организация по стандартизации (ISO), известная своими отраслевыми стандартами, сделала ключевой ISO/IEC 22989 общедоступным и бесплатным. Этот стандарт охватывает широкий спектр тем, связанных с управлением ИИ, и предоставляет ценные рекомендации для ответственной разработки и внедрения технологий искусственного интеллекта.

ISO/IEC 22989 предоставляет стандартизированные концепции и терминологию, чтобы помочь заинтересованным сторонам лучше понять и эффективно использовать технологии ИИ. Этот документ предназначен для широкой аудитории, включая как экспертов, так и непрофессионалов, предлагая понимание междисциплинарного характера ИИ, который охватывает компьютерные науки, науки о данных, естественные, гуманитарные и социальные науки. Также стандарт является отличным материалом при подготовке к сертификации AI Governance Professional от IAPP.

Сделав этот стандарт общедоступным, ISO стремится способствовать широкому внедрению ответственных практик в области ИИ, обеспечивая, чтобы системы ИИ были надежными, устойчивыми, точными, безопасными и приватными.

ISO/IEC 22989 и другие стандарты в свободном доступе можно найти здесь.

#ISO #УправлениеИИ #ИИ #ISO #AIGovernance #AIGP #AI

standards.iso.org

Publicly Available Standards

Европейский надзорный орган выпустил руководство по защите данных при использовании генеративных ИИ-систем

Европейский надзорный орган по защите данных (European Data Protection Supervisor, EDPS) выпустил новое руководство по обеспечению соответствия требованиям защиты данных при использовании генеративных ИИ-систем. Это руководство особенно важно, учитывая ключевую роль EDPS в Законе ЕС об ИИ.

Согласно Закону об ИИ, EDPS будет:
✅ Создавать регуляторные песочницы для ИИ для европейских компаний;
✅ Участвовать в качестве наблюдателя в Европейском совете по ИИ;
✅ Осуществлять надзор за учреждениями ЕС в рамках Закона ЕС об ИИ;
✅ Выступать в качестве органа рыночного надзора за европейскими компаниями в рамках Закона ЕС об ИИ;
✅ Налагать административные штрафы в случае нарушений.

Эти функции означают, что интерпретации и руководство EDPS по разработке и использованию ИИ будут иметь значительное влияние на разработчиков и пользователей систем искусственного интеллекта ИИ.

Несмотря на то, что руководство не достаточно конкретно раскрывает некоторые вопросы, оно предоставляет хороший первоначальный обзор ключевых вызовов в области генеративного ИИ.

#ИИ #ЗащитаДанных #AI #DataProtection #EDPS #AIAct #GenerativeAI

Университет Эмори отстранил студентов за разработку учебного инструмента на базе ИИ

Двое студентов Университета Эмори, Бенджамин Крейвер и Карам Ханна, были отстранены за разработку учебного инструмента Eightball.

Примечательно, что этот инструмент не только получил одобрение университета, но и выиграл премию в размере $10,000 на дальнейшую разработку. Конфликт возник, когда Eightball получил возможность подключаться к онлайн-системе обучения Canvas, что позволило генерировать учебные карточки непосредственно из учебных материалов.

Университет Эмори сослался на возможные нарушения Кодекса чести, утверждая, что Eightball «может использоваться для мошенничества». Это привело к закрытию инструмента и судебному иску, поданному Крейвером против университета. В иске студент утверждает, что «нет доказательств, что кто-либо использовал Eightball для мошенничества».

#AI #Education #Innovation #Eightball #TechPolicy