Выступала на днях в качестве жюри на школьных дебатах по теме «ИИ и будущее человечества». Мой вердикт: надо ходить на подобные мероприятия почаще.
Не устаю поражаться уровню подготовки и мотивации некоторых старшеклассников.

Во-первых, рассуждая над тезисом «ИИ отнимет у нас работу», ребята быстро перескочили на небезызвестный парадокс Джевонса, принялись рассуждать о пост-трудовой экономике (термин, который недавно популяризировал Дэвид Шапиро) и начали налету придумывать профессии будущего (я выписала себе «тренера по коэволюции с ИИ» и «дримдизайнера»).

Во-вторых, чрезвычайно полезно было послушать, как старшеклассники планируют выстраивать свои образовательные и карьерные треки: почти все заявили, что будут делать ставку на междисциплинарность и прокачку эмоционального интеллекта (мы долго обсуждали, что общего между мультфильмом «Головоломка» и новенькой ироничной моделью Artificial Overthinker).

Поговорили также про AI Conscious Test, описанный Сьюзен Шнайдер в 2019 году. Он нацелен на выявление способности ИИ понимать сценарии, где важно ухватить концепцию сознания (например, сценарии, где происходит отделение сознания от тела, переселение душ и т.п.). Сьюзен Шнайдер считает, что сущности, совершенно лишенной осознанных переживаний, было бы чрезвычайно трудно осмыслить эти сюжеты (как слепому от рождения человеку сложно помыслить цвета), и потому прохождение теста может считаться достаточным, но необязательным свидетельством наличия искусственного сознания. Как водится, мы этот тест продуктивно покритиковали.

По итогам дебатов ребята готовят тематический стенд, который будет представлен на грядущем Фестивале науки. Так что заходите посмотреть, а также послушать крутые лекции от ученых (полная программа фестиваля тут).

В общем, чувствую, что через пару лет уже буду преподавать философию у будущих дримдизайнеров и тренеров по коэволюции. Меня это, в целом, устраивает✨

#future
#events

Обещаю скоро вернуться к регулярному постингу (как только полностью отдохну себя после всех конференций и фестивалей). А пока делюсь мини-списком интересной философской литературы на август:

?Exploring The Boundaries Of Consciousness - небольшая статья профессора Тима Бейна по мотивам недавней конференции в Непале, посвященной изучению сознания нечеловеческих животных.

?The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI- новая книга Джонатана Бёрча, одного из инициаторов Нью-Йоркской декларации о сознании животных. Очередные любопытные рассуждения о «гранях сознания» и о том, как принимать этически обоснованные решения о наличии сознания у животных, людей и ИИ на основании тех данных, которые нам пока доступны.

?Puzzles, Paradoxes, and Thoughts Experiments in Philosophy - серия книг издательства Routledge, где каждый том посвящен 50 самым интересным философским головоломкам. В этом году вышли новые книги по биоэтике и философии сознания + ждем том по этике (до этого были книги по эпистемологии, эстетике, философии языка, а также о проблеме свободы воли и агентности).

#books

Люблю тему расширенного познания и особенно споры вокруг возможности «расширения» феноменального опыта в контексте развития новых технологий⤵️

Несколько интересных подкастов, которые вы вряд ли пропустили, но я все равно посчитала нужным ими поделиться:

?Роман Ямпольский у Лекса Фридмана - про AGI, экзистенциальные риски, безопасность ИИ и проблему контроля. И да, в очередной раз придется слушать, что мы все живем в симуляции.

?Цифровая теология: когда ИИ заменит Бога? В гостях у Алексея Гагинского кандидат богословия о. Владимир Шмалий. Про Digital-Левиафана, онтологию цифровой реальности и, конечно, ИИ как нового Бога.

?Подкаст о философии: Искусственный интеллект. Антон Кузнецов, Женя Цуркан и Сева Ловкачев за почти три часа успели обсудить все - от вычислительного функционализма до мозгов в бочке!

#рекомендасьон

Последние пару дней все обсуждают уход из OpenAI Ильи Суцкевера и Яна Лейке, отвечавших в компании за направление SuperAlingnmet.

Напомню, что их исследовательская группа была организована в июле прошлого года в целях изучения проблем контроля и обеспечения безопасности будущего сверхразумного ИИ, который потенциально может значительно превосходить человека в интеллектуальных способностях.

Тогда в анонсе OpenAI заявила, что планирует использовать 20% своих вычислительных мощностей для обеспечения работы направления. В итоге именно из-за проблем с вычислительными ресурсами команде в последнее время становилось все сложнее проводить свои исследования.

(О причинах ухода, а тоже о том, почему их группа «шла против ветра», см. пост Яна Лейке).

Про проблему «супервыравнивания» на данный момент написано много. Хотя, учитывая, что нынче это одна из ключевых проблем, связанных с долгосрочными рисками развития AGI, про которую говорят почти все разработчики, ученые и философы, занимающиеся ИИ, то любое «много» остается недостаточным.

Поэтому вот топ важных обзорных постов от Яна Лейке, с которых можно начать изучение этой темы:

▪️What is the alignment problem?
(тут Лейке описывает «трудную проблему выравнивания» - мало нам было «трудных проблем»)

▪️What could a solution to the alignment problem look like?

▪️What is inner alignment?

▪️Why I’m optimistic about our alignment approach

#technologies
#philosophy