Итак, Курцвейл с 60-х годов прошлого века занимается ИИ.

В 1999 году он сделал прогноз, что мы достигнем человеческого уровня ИИ к 2029 году. В то время большинство исследователей ИИ были уверены, что мы никогда не достигнем этой точки. До недавнего времени этот прогноз считался чрезвычайно оптимистичным в этой области. Например, в 2018 году опрос показал, что, согласно суммарному прогнозу экспертов в области ИИ, машины с интеллектом на уровне человека появятся лишь около 2060 года. Однако удивительный прогресс в ИИ за последние два года перевернул ожидания, и к маю 2022 года консенсус на Metaculus полностью совпал с прогнозом Рея на 2029 год. С тех пор он даже колебался до 2026 года, что технически ставит Курцвейла в лагерь с медленными прогнозами!
Даже эксперты в этой области были удивлены многими недавними прорывами в ИИ. Дело не только в том, что они происходят раньше, чем большинство ожидало, но и в том, что они, кажется, происходят внезапно и без особых предупреждений. Например, в октябре 2014 года Томазо Поджио, эксперт по ИИ и когнитивным наукам из MIT, сказал: «Способность описывать содержимое изображения будет одной из самых интеллектуально сложных задач для машины. Нам потребуется еще один цикл фундаментальных исследований, чтобы решить этот вопрос». Поджио оценил, что этот прорыв произойдет не менее чем через два десятилетия. Однако уже в следующем месяце Google представил ИИ для распознавания объектов, который мог это делать. Когда ему указали на это, Поджио перешел к более философскому скептицизму относительно того, представляет ли эта способность истинный интеллект.

И тут есть очень важный момент:

До того как ИИ достигнет какой-то цели, эта цель кажется крайне сложной и исключительно человеческой. Но после того как ИИ достигает её, достижение в наших человеческих глазах уменьшается в значимости.

И в заключение – еще пару моментов про нейронные сети, до того как начнем обсуждение нашего головного мозга (в следующих разборах книги).

Ключевая функция нейронной сети заключается в том, что она должна изучать свой предмет, так же как и мозг млекопитающих, на основе которого она (по крайней мере, в общих чертах) смоделирована.

Когда нейронная сеть выдает правильный результат (например, точно определяет, есть ли светофор на изображении), она получает обратную связь в виде награды. Со временем нейронная сеть организует себя так, чтобы давать правильные ответы без подсказок. Эксперименты показали, что нейронные сети могут изучать свой предмет даже при ненадежных «преподавателях». Если обучающие данные правильно размечены только на 60%, нейронная сеть все равно может выучить материал с точностью более 90%. В некоторых условиях можно эффективно использовать даже еще меньшие пропорции правильных меток. Хоть это и контринтуитивно, но ошибки могут компенсировать друг друга.

Предположим, вы обучаете нейронную сеть распознавать цифру 8 по рукописным образцам цифр от 0 до 9. И предположим, что треть меток неправильны — случайная смесь 8, помеченных как 4, 5, закодированных как 8 и так далее. Если набор данных достаточно велик, эти неточности будут компенсировать друг друга и не будут сильно искажать обучение в каком-либо конкретном направлении. Это сохраняет большую часть полезной информации о том, как выглядят 8, и продолжает обучать нейронную сеть на высоком уровне.

#Курцвейл

В 1970-х появился другой пример системы, основанной на символическом подходе, – MYCIN для диагностики и рекомендаций по лечению инфекционных заболеваний. В 1979 году команда экспертов сравнила её результаты с результатами человеческих врачей и обнаружила, что MYCIN справляется так же хорошо или лучше, чем любой из медиков (!!!). Несмотря на успехи, MYCIN столкнулась с ограничениями "потолка сложности", когда добавление новых правил начинало приводить к возникновению дополнительных ошибок, что ограничивало её применение в реальных ситуациях. С «потолком сложности» связано одно из основных ограничений этого подхода.

Что же насчет коннекционистского подхода?1964 год – Фрэнк Розенблатт продемонстрировал Курцвейлу однослойную нейронную сеть под названием Перцептрон, которая могла распознавать печатные буквы. Система довольно хорошо справлялась с автоассоциацией (то есть могла распознавать буквы, даже с закрытыми частями), но хуже справлялась с инвариантностью (не могла распознавать буквы после изменения их размера и шрифта).
Неспособность Перцептрона справиться с инвариантностью объяснялась отсутствием слоев. Если взять вывод Перцептрона и пустить его на другой такой же слой, выход станет более общим, и с повторением этого процесса он сможет все лучше справляться с инвариантностью. Если бы у вас было достаточно слоев и обучающих данных, он мог бы справиться с задачами потрясающей сложности. Однако это была только идея Розенблатта, и он не успел опробовать её на практике. Однослойная нейронная сеть не впечатляла и подверглась критике. Коннекционистские подходы к ИИ были в значительной степени проигнорированы до середины 2010-х годов, когда достижения в области аппаратного обеспечения наконец-то раскрыли их потенциал.

Коннекционизм таким образом напоминает изобретения летательных аппаратов Леонардо да Винчи — это были пророческие идеи, но они не могли быть реализованы до тех пор, пока не были разработаны более легкие и прочные материалы. Когда аппаратное обеспечение догнало идеи, стали возможны крупные коннекционистские системы, такие как сети из ста слоев.

Курцвейл описывает некоторые преимущества коннекционистского подхода, который создает «интеллект» за счет своей структуры, а не за счет содержания. Вместо того чтобы использовать умные правила, сети используют «глупые» узлы, расположенные так, чтобы извлекать информацию из самих данных. В результате они могут обнаруживать тонкие закономерности, которые никогда бы не пришли в голову человеческим программистам, пытающимся разработать символические правила. Одним из ключевых преимуществ коннекционистского подхода является то, что он позволяет решать задачи без их понимания. Но в то же время коннекционистский ИИ склонен превращаться в «черный ящик» — способный выдать правильный ответ, но неспособный объяснить, как он его нашел.