Як думаєете, що треба, щоб творець нейронок почав бачити в них загрозу?
Попрацювати на бігтех.

Рік тому Джефрі Хінтон (нещодавній нобелевський лауреат) звільнився з Google Brain AI після 10 років праці, щоб відкрито говорити про свої побоювання щодо ШІ. В інтервʼю NYT зізнався, що частково шкодує про роботу всього свого життя.

«Я втішаю себе популярним виправданням: якби не я, це б зробив хтось інший».

Колись Хінтон вважав, що до створення суперінтелекту ще далеко — років 30-100. Однак нещодавно зрозумів, що цифрові моделі вже дуже схожі на мозок і швидко покращуються. Масовий контроль, як в Китаї, не за горами, далі ШІ легко досягне успіху в маніпуляції людьми, адже вчиться набагато швидше та продуктивніше за нас. Ну і люди не надто розумні істоти, як ми яскраво бачимо, особливо останні 2.5 роки.

Хінтон також бачить загрозу у переповненні мережі неперевіреними фейками всіх форматів: зображень, голосів та відео, і массовій втраті робочих місць через автоматизацію роботи. Якщо в галузі лікування робочі місця залишаться, наприклад кожному потрібен лікар і психолог, то в інших сферах люди залишаться на морозі, або ж обслуговуватимуть нейроки.

Ще один сейозний циклон насувається і з боку кібератак та використання штучного інтелекту на полі бою. На виступі в Окфорді він розповів, що за непідтвердженими даними, до 2030 року планується заміна половини американських солдатів роботами. Він спитав про це у радника Чака Шумера з національної розвідки, але той ухилився від питання (Хінтон трактував це як спосіб сказати, що вони не можуть таке коментувати).

“Don’t think for a moment that Putin wouldn’t make hyper-intelligent robots with the goal of killing Ukrainians,” he says. *“He wouldn’t hesitate. And if you want them to be good at it, you don’t want to micromanage them—you want them to figure out how to do it.”

(пер. «Навіть не сумнівайтеся, що Путін не скористається нагодою створити надрозумних роботів для знищення українців, — каже Хінтон. — Він не вагатиметься. І як хочете, щоб вони були ефективними, то не будете мікроменеджити — ви дозволите їм самостійно обирати, як досягти мети».)*

Хінтон категорично проти роботів-солдатів. У 1980-х роках він був професором інформатики в Університеті Карнегі-Меллона, але покинув університет і переїхав до Канади, оскільки не хотів торкатись фінансування Пентагону.

Ставлення до перспектив суперінтелекту залежить від вашого оптимізму чи песимізму. Якщо запитати оптиміста, наскільки імовірно, що в його родині хтось серйозно захворіє чи потрапить у ДТП, він скаже 5%. Песиміст відповість, що 100% щось станеться. А людина з легкою депресією скаже, що вірогідність десь 40%, що, врешті, зазвичай і є реалістичним.

«У мене легка депресія, — каже Хінтон. «Ось чому я боюся».

📱 @kseniadesignshealth

👹 Нещодавно мала розмову зі знайомим інвестором (Стенфорд, технології, вся фігня), який дуже цікавиться азіатським діджитал-ринком.

Підкинув цікаву думку, що в Китаї ШІ вже майже перетворився в навігатор по надскладному світу. Кількість інформації досягла межі, де самому не розібратись, як шукати і кому вірити.

Зміни видно і на західному ринку. Google здає позиції через SEO-спам (часто сгенерований ШІ) та рекламу. Тут нейромережі поки не вирішують проблему, бо ми прагнемо на відповіді від справжніх людей, в надії, що хтось вже розібрався і буде нести відповідальність. Тож в хід пішли YouTube, TikTok та Reddit.

А ви що? Я ще Гуглю, але вже знаю людей, які одразу до GPT йдуть 📖.

📱 @kseniadesignshealth

🗿 Рорер все життя створює інді-ігри поза традиційним геймдевом, на перетині арту та філософських питань життя та смерті.

Його найвідоміша гра Passage знаходиться в Музеї сучасного мистецтва у Нью-Йорку. Це коротка, 5-хвилинна гра втілює метафору життя.

🤩 Починаєш як молодий персонаж і протягом гри робиш вибори: досліджуєш світ, шукаєш скарби або подорожуєш разом з партнером.

Одному ходити спритніше і можеш відкрити більше скринь зі скарбами. Але якщо подорожуєш з партнером, то отримуєш 2х очок, хоча до деяких скриньок дістатися вже не вийде — разом не пролізете.

Якщо фокусуєшся на пошуку скарбів, з часом дізнаєшся, що більшість скринь пусті. Можна навчитися розпізнавати підказки на них, і відкривати лише ті, що зі скарбом і варті твого часу.

Але чи варті?

Можна витратити свої п'ять хвилин, намагаючись набрати якнайбільше очок, але врешті-решт смерть все одно прийде за вами.

Поклацати Passage тут.

Комерційно найуспішніша гра Рорера — One Hour One Life. Там кожен гравець проживає одне "життя" за 60 хвилин. Народжуєшся як дитина в племені і маєш виживати, взаємодіячи з іншими людьми, разом будуєте світ і передаєте свої знання наступному поколінню. Гра багатокористувацька, всі персонажі справжні люди, тож соціальні навички в пріорітеті. Вартість One Hour One Life — 20 за годину. Я не грала, у мене сьогодні і без того запланована соціальна взаємодія, вклам грошики в ріал лайф спілкування під вино 🤩

📱 @kseniadesignshealth

Розважилась зранку читаючи про нещодавній проєкт Skydrop Джейсона Рорера .

🗺️ 19 вересня він запустив гру: сховав статуетку із золота вартістю $26,000 на північному сході США, десь між Вашингтоном і Новою Англією, в зоні радіусом 800 км.

Участь в грі коштувала 20 баксів, і кожного дня на пошту приходив email з підказками — фотками статуетки на землі. Перший знімок був зроблений з відстані всього в 30 см, але кожного дня масштаб зменшувався, щоб учасники могли побачити більше деталей місцевості. Ще за статуеткою стежила камера, тож була лайф-трансляція з лісу 🌲.

Рорер розраховував, що пошуки триватимуть десь 3 тижні.

Учасники шуршали, бігали, обговорювали ідеї в Discord. А 2 жовтня прийшов якийсь метеоролог-ентузіаст і знайшов скарб без жодної підказки Рорера. Він орієнтувався тільки на лайф-трансляцію і власний мозок: аналізував температуру, хмарність, дощ, звернув увагу на букові дерева в зоні навколо.

Тип вирішив не продавати статуектку, щоб отримати бабоси, плюс відмовився від другої частини призу — коду від біткоін-гаманця на $87,000 долларів.

І захотів залишитись анонімним, що ще більше обурило твроця 😵.

З іншого боку, сам Рорер той ще персонаж. Двадцять років тому вони з дружиною вирішили виховувати дітей без ґендерних упереджень, 5 років жили без холодильника, бо так хотіли. Друзі кличуть його луддитом, який будує машини.

📱 @kseniadesignshealth

Знайшла свій ранковий настрій у productmeme 💀☕️

📱 @kseniadesignshealth

📱 @kseniadesignshealth