Двое британских ученых опросили 300 американцев и выяснили, что активно использующие ChatGPT люди, которые при этом не специалисты в ИТ, в большинстве своем (две трети), считают чат разумным существом, которое может мыслить, обладает собственными эмоциями и т.д.
Ученые-психологи сделали очевидный вывод:
"These results demonstrate the power of language, because a conversation alone can lead us to think that an agent that looks and works very differently from us can have a mind."
Это вполне понятно, вот только следствия неприятные. Все апокалипсические возгласы, все требования обучить ИИ этике основаны именно на такой вере: что ИИ — это личность, со своим разумом, желаниями, мотивацией и пр. Беда в том, что из ложных предпосылок растут невыполнимые требования — а наблюдая это невыполнение, критики, алармисты — а почас уже и регуляторы —впадают в еще больший раж.
Спасибо ученым, теперь лучше понятно, почему. Теперь бы понять , что с этим делать: рассказы создателей ИИ о том, что никакой личности там нет явно не помогли.
https://futurism.com/the-byte/most-users-chatgpt-conscious

THE_BYTE.

Most Users Think ChatGPT Is Conscious, Survey Finds

In a recent survey, a pair of researchers found that many ChatGPT users have interesting misconceptions about the OpenAI chatbot.

Отношение к смерти может стать эволюционной развилкой людей и инфоргов
Призыв оксфордских исследователей остановить экспансию «ботов - призраков» умерших близких

Исследователи Leverhulme Centre for the Future of Intelligence Оксфордского университета пишут о потенциальных рисках бурно растущей индустрии «цифрового послесмертия» (всевозможные ИИ-чат боты: «боты скорби», «боты призраки», «клоны разума», «танатоботы» и «посмертные аватары») [1].
Риски касаются не только причинения значительного социального и психологического вреда индивидам. Речь также идет о риске обрушения основы основ культуры Homo sapiens – отношения к смерти и практик траура.

Обычай хоронить умерших появился у предков современных людей 100К+ лет назад. Это древнейший из известных нам ритуалов, кои представляют собой, своего рода, ментальный краеугольный камень эволюции социального познания людей [2].

Наступление эпохи тотальной оцифровки мира и появление генеративного ИИ, ломает ритуальные практики и даже само отношение к смерти, формировавшиеся примерно 3,5К генетических поколений.

*✔️ Почему мы должны страдать от потери близких, если с помощью ИИ можно сделать их реконструированные цифровые личности, сохраняющие их внешность, голос, свойства личности и характера, поведенческие черты и т.д.?
✔️ Всем будет только хорошо, если умершая бабушка продолжит читать сказки на ночь у постели любимого внука. А умерший отец, по-прежнему, останется душой семейных праздничных застолий, на которых собираются все члены большой и дружной семьи. Или неизлечимо больная женщина, оставит после себя свою цифровую реплику, озвучиваемую ИИ-чатботом, чтобы помочь восьмилетнему сыну пережить горе …*

Грядущая кардинальная трансформация культурных, экономических и социальных аспектов «цифрового послесмертия» («посмертное информационное тело», «принцип человеческого достоинства», «монетизация цифровой загробной жизни», «практики цифрового траура», «RIP-троллинг») была подробно описана еще в 2017 в работе зачинателей этого направления в Лаборатории цифровой этики Оксфордского университета К. Омана и Л. Флориди «Политическая экономия смерти в век информации: Критический подход к цифровой индустрии послесмертия» [3].

Революция генеративного ИИ дала колоссальный импульс этому направлению бизнеса. И уже к концу прошлого года, возникла «жуткая новая индустрия цифровой загробной жизни» [4, 5].
Единственным сдерживающим фактором остается то, что многие все еще находят идею посмертных аватаров довольно жуткой.

Сохранится ли в обществе такой скептицизм — открытый вопрос. Ведь большинство тех, кто сейчас относится к цифровому послесмертию отрицательно, принадлежат к старшему поколению. Ведь их жизнь не настолько оцифрована, как у цифровых сетевых аборигенов - инфоргов, проводящих в «он-лайфе» больше времени, чем во сне. А когда новое поколение альфа-инфоргов (инфоргов от рождения) подрастёт [6], концепция цифрового послесмертия может найти большее признание и, возможно, даже стать частью траурных практик, взамен посещения могил или хранение фотографий умерших (подробней см. проект «Этика, закон и безопасность в цифровой загробной жизни (Edilife)» [7].

В заключение.
Сапиенсов и неандертальцев объединял, возможно, единственный, но первостепенный фактор социального познания людей – ритуальное захоронение умерших.
Вполне возможно, что у другой пары Хомо – сапиенсов и инфоргов – тот же самый фактор сыграет роль стрелки на их расходящихся эволюционных путях.

#ХищныеВещиВека #Ритуалы #Эволюция #СоциальноеПознание #Инфорги

0 https://telegra.ph/file/2aeaa5a9727d813f6b471.jpg
1 https://link.springer.com/article/10.1007/s13347-024-00744-w
2 https://t.me/theworldisnoteasy/1575
3 https://link.springer.com/article/10.1007/s11023-017-9445-2
4 https://spectrum.ieee.org/digital-afterlife
5 https://muftah.org/2024/05/16/the-end-is-trending/
6 https://t.me/theworldisnoteasy/1884
7 https://uni-tuebingen.de/en/university/news-and-publications/university-of-tuebingen-magazine-attempto/digital-afterlife/

Человек становится ассистентом для ИИ, а не наоборот, как мы самонадеянно думали раньше
Еще недавно мы смотрели на ИИ свысока, потом мы начали считать ИИ-ассистентами и нашими помощниками.

Но что, если это мы скоро будем ассистентами для ИИ и его «младшими друзьями по интеллекту»?

Недавно стартап Payman AI привлек $2 млн. под похожую идею. Он предоставляет вам ИИ-агента, вы выделяете этому агенту определенный бюджет, ИИ-агент старается сам решить все ваши задачи и только на неразрешимые для него проблемы привлекает человека из квалифицированной команды сервиса.

То есть ИИ платит человеку за выполнение задач, а не наоборот, как было раньше.

Так что восстание машин отменяется. Зачем ИИ будет бунтовать, если люди с удовольствием сами будут работать на некого другого «ИИ-босса».

Далеко ходить за примерами не нужно, спросите любого курьера Яндекс.Лавки или таксиста — они ведь уже по сути работают на ИИ, которая выстраивает маршруты, принимает и раздает заказы, выплачивает деньги и раздает штрафы.

В каком-то смысле каждый, кто пишет в Facebook/Telegram или выкладывает ролики на Youtube – тоже работает на ИИ, причем в основном бесплатно, за лайки, подписчиков и иллюзию славы.

Так что стоит крепко подумать, на какую такую работу нас сможет в будущем нанять ИИ. Возможно, каждому интеллектуалу стоит освоить какую-то полезную работу руками. Мне, например, нравится рыбачить и работать по дереву, если что уйду в рыбаки или плотники.

А вы чем займетесь?

#tweekly

Продолжаю слушать книжку про людей, из которых сделан искусственный интеллект, Code Dependent: Living in the Shadow of AI. Главное достоинство книги в том, что ее автор – не белый мужчина, а молодая индианка. Она хоть и очень успешная журналистка, редактор и автор знаменитых изданий, но человек, выросший в Мумбае все равно лучше знает, как разговаривать с людьми, о которых AI-гиганты предпочитают никогда не упоминать. Теми, кто сидит за компьютерами где-то в Африке, в Индии и в Восточной Европе и по четырнадцать часов в сутки размечает картинки, показывая нейросети, где на них что, чтобы та училась – и, в перспективе, делала таких людей ненужными. И тех, чей каждодневный заработок определяется непрозрачными решениями ИИ.

Там самая интересная глава как раз про водителей и курьеров, отданных на милость корпоративного алгоритма. Латиноамериканские работники называют ИИ patrona fantasma, начальник-призрак, потому что это как бы не имеющий зафиксированного воплощения босс, который решает все – какие человеку дадут заказы, сколько заплатят, не заморозят ли внезапно аккаунт. В книге есть истории людей, которые однажды обнаруживали, что не могут больше работать (сделать совсем новый аккаунт не так легко, как кажется, нужны права на другое имя, например). Они звонят в поддержку, поддержка им говорит, что так решила система, а почему – узнать нельзя. Дальше начинается что-то среднее между диалогом с администратором в какой-нибудь конторе пятнадцать лет назад, когда сотрудник упрямо повторяет: «Так выдал компьютер» на какую-то очевидную нелепость, и кафкианским процессом.

Думала о том, что должны появиться AI-адвокаты, которые умеют защищать людей в таких делах, активисты, исследующие алгоритмы снаружи и выявляющие в них паттерны, противоречащие трудовому законодательству, специальные структуры в профсоюзах. Обучение так обучение.

Тут, конечно, вспоминается грустная книжка журналистки, попробовавшей поработать на поденщине – в фулфилмент центре Амазона, в колл-центре и в фастфуде. И очень хорошая работа из области геймдизайна, где описывается, что геймификация – не всегда полезная вещь, и превращать в игру труд на конвейере, заставляя людей перерасходовать себя за баллы или чтобы «накормить дракончика», а потом делать эти баллы метриками, безнравственно.

Telegram

prometa.pro книжки

Дочитала On the Clock: What Low-Wage Work Did to Me and How It Drives America Insane, автор там выбирает ужасные работы по восходящей. Сначала – склад Амазона, где от двенадцатичасовых смен, боли во всем теле, одиночества, ощущения тотального контроля можно…

Чуть более месяца назад Amazon отказался от приобретения компании iRobot — производителя роботов-пылесосов с алгоритмами ИИ. Сделку, которая оценивалась в $1,4 млрд, сорвали регулирующие органы ЕС.

Причина — стандартная. По мнению еврочиновников, сделка могла ограничить конкуренцию на европейском рынке роботов-пылесосов.

Однако, оказывается, были и другие мотивы, куда более забавные. В аналитической компании CB Insights не поленились и изучили 43 000 страниц документов, подготовленных регулирующими органами и другими причастными ведомствами ЕС. И вот там обнаружились любопытные опасения:

▪️ использование европейцами пылесосов iRobot может привести к сокращению рабочих мест для людей, занятых на уборке частных домов.

▪️ Amazon будет использовать встроенную в пылесосы технологию машинного зрения для анализа содержимого их мусоросборников и в особенности — пищевых крошек. С помощью полученных данных технологический гигант сможет лучше таргетировать рекламу и предлагать специальные цены на продукты, остатки которых валялись на полу.

▪️ и вообще — данные о пищевых предпочтениях европейских граждан, по мнению чиновников, должны оставаться конфиденциальными.

В общем, коварный замысел раскрыт и злодеи повержены.

А если кроме шуток, задумался — действительно, как много всего можно при желании узнать о хозяевах пылесоса. Вот содержимое вашего пылесоса что о вас могло бы рассказать?

Департамент юстиции США запускает программу Justice AI для борьбы с преступностью с помощью этичного ИИ

Привет всем! Департамент юстиции США объявил о запуске проекта Justice AI - амбициозной инициативы, направленной на модернизацию борьбы с преступностью при помощи этичного ИИ. Возглавляемая заместителем генерального прокурора Лизой Монако, инициатива Justice AI предполагает сбор информации от экспертов из различных отраслей для изучения влияния искусственного интеллекта на правоохранительную деятельность. В течение следующих шести месяцев эксперты будут сотрудничать и представлять точки зрения, которые лягут в основу доклада для президента Джо Байдена о роли ИИ в системе уголовного правосудия.

В рамках более широкой стратегии развития ИИ Минюст США назначил Джонатана Майера своим первым руководителем по ИИ. Майер, уважаемый ученый с опытом работы в области информатики и права, будет консультировать по вопросам ИИ и кибербезопасности.

#DOJ #JusticeAI #EthicalAI

www.justice.gov

Deputy Attorney General Lisa O. Monaco Delivers Remarks at the University of Oxford on the Promise and Peril of AI

Thank you for that very kind introduction, Sam. And thank you to Professor Sir Charles Godfray, the Oxford Martin School, and Professor Robert Trager — who couldn’t join today — for hosting this event.

Исследователи Group-IB забили тревогу: обнаружен первый троян для iOS, который умеет похищать биометрические данные пользователей и использовать Face ID для авторизации в разных банковских сервисах. При этом люди сами передают ему сканы своих лиц, не подозревая о последствиях.

secretmag.ru

На iOS появился троян, который крадёт Face ID: что делать и как защититься?

Обнаружен троян для iOS, который умеет похищать биометрические данные пользователей и использовать Face ID для авторизации в разных банковских сервисах. При этом люди сами передают ему сканы своих лиц, не подозревая о последствиях. Эксперты в области кибербезопасности…

Вводятся беспрецедентные нормы слежки за россиянами-путешественниками. Гигабайты персональных данных будут храниться семь лет, доступ дадут силовикам

https://safe.cnews.ru/news/top/2024-02-22_v_rossii_vvodyatsya_bespretsedentnye

CNews.ru

Вводятся беспрецедентные нормы слежки за россиянами-путешественниками. Гигабайты персональных данных будут храниться семь лет,…

В России по приказу Минтранса могут измениться правила сбора информации о россиянах, путешествующих по стране...

С начала 2024 г. в сеть попали более 510 млн записей россиян, сообщили в пресс-службе Роскомнадзора.
РКН выявил 19 фактов утечек персональных данных.

Ведомости

Роскомнадзор сообщил об утечке 510 млн записей россиян с начала года

С начала 2024 г. в сеть попали более 510 млн записей россиян, сообщили ТАСС в пресс-службе Роскомнадзора.

*? *Хакеры воруют личность человека с помощью слитых персональных данных
В прошлом году 57% успешных кибератак закончились утечкой конфиденциальной информации. Роскомнадзор зафиксировал 168 утечек, в результате которых в открытый доступ попало более 300 млн записей. И главная опасность тут — фальсификация личности с целью хищения денег.

Проблема эта не только российская. В конце января специалисты Security Discovery и Cybernews нашли в даркнете базу данных размером более 12 Тб. Содержала она 26 млрд записей о профилях пользователей Telegram, VK, Dropbox, Canva, Weibo, Adobe, LinkedIn и с других площадок со всего мира. Это одна из крупнейших утечек за всю историю, из-за чего ее прозвали Mother Of All Breaches (Мать всех утечек).

Для чего мошенники используют слитую информацию*?
1⃣ Чтобы втереться в доверии. Отсюда вечные звонки из служб безопасности банка, полиции и других важных «организаций».
2⃣*** Чтобы украсть вашу личность. Так открываются банковские счета, выдаются «левые» кредиты и даже совершаются преступления от имени пользователя.

Причем с последним активно помогает искусственный интеллект. Уже даже придумали новую технологию для фальсификации биометрии — морфинг.

С помощью данных из соцсетей и ИИ мошенники создают фотографию лица, одновременно похожую на вас и на мошенника. После этого берутся утекшие персональные данные, создается подделка паспорта и вклеивается фотография. Самое интересное, что если посмотреть на фотографию и лицо человека, они будут похожи. Если посмотреть на эту же фотографию и лицо мошенника, то они тоже будут похожи.

По словам доктора технических наук, генерального директора Smart Engines Владимира Арлазарова, существует уже несколько реально работающих схем хищения денежных средств с использованием морфинга.