https://mokum.place/las67/1213648#c3885319 — мне _действительно_ искренне интересно, у меня на этот счёт и максималистская телега есть в запасниках.
Давно уже сложилось впечатление, что вся история попыток дать машине интеллект есть методичное выяснение того, что интеллектом НЕ является.
Уже довольно давно установлено, что игра в шахматы к заветному интеллекту не имеет никакого отношения — хотя еще лет тридцать-сорок назад многим казалось, что компьютер, способный обыграть чемпиона мира, просто-таки неизбежно будет в состоянии и поддержать с ним беседу (этот тезис прямо озвучен, скажем, в "Гёдель, Эшер, Бах")
Чуть позже буквально за десяток лет путь от "истинно интеллектуально-интуитивной игры, принципиально недоступной для машины" до "еще одного достижения нейросетей" был пройден Го.
Поэзия — есть. Живопись — есть. Ну да, это стихогенератор Яндекса и Призма. Пока что. Можно сколько угодно драть глотки по поводу так называемой "истинной художественной ценности" создаваемых произведений, но всё это разбивается о тот самый диалог из "Я, робот": "...Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства? — А Вы?"
В общем, моё футурологическое неворочание мешков таково:
В течение ближайших десятилетий компьютер научится делать всё, что способен делать человек (или, точнее, станет способен по необходимости в короткие сроки научиться любой новой доступной человеку задаче), но при этом явного качественного скачка "вот в этот момент возник ИИ" так и не произойдет.
Возможностей после этого будет две: 1). продолжать утверждать, что у человека есть некая "душа", которую компьютер-де так и не обрёл — но при этом это не ограничивает его ни в чем конкретном, 2). признать, что пресловутый "интеллект", принципиально отличающий человека от прочих животных и компьютеров, не существует.
Что на пути от реагирующей на раздражитель бактерии до познающего Вселенную человека — и, возможно, куда-то далее — нет никаких скачков. Шкала сложности процессов обработки информации непрерывна. А самосознание... ну что самосознание. Может, не самый даже интересный эффект, возникающий в нейросетях.
Срач будет велик. Тот, что сопровождал признание человека животным, померкнет. Нужно будет идти дальше — спустившись уже однажды уже от "царя природы, образа и подобия" к "зверю, но мыслящему", делать следующий шаг. По ощущениям куда-то вниз, куда очень не хочется.
Будет, скорее всего, всплеск самоубийств, которому позавидуют все кризисы, вместе взятые. Но еще задолго до этого наверняка будет и первый брак между человеком и нейросетью. Или, что по сути то же самое — между человеком и каким-то количеством информации.
А потом будет шанс на новый мир. Мир, в котором люди научатся не нырять в соответствующее самоощущение, как в ледяную воду, а жить в нём, как в родной стихии. Который с немалой вероятностью окажется избавленным от страха смерти. Потому что процессу обработки информации вроде бы нет поводов бояться собственной остановки. Утопия или антиутопия это будет — отсюда пока не видно.
• Качественного скачка не произойдёт, потому что для робота не существует качества как понятия. И не будет существовать никогда. • kot-kontramot
• ^ чото ржу • hotgiraffe
• ^^ если принять определение из википедии "Ка́чество — философская категория, выражающая совокупность существенных признаков, особенностей и свойств, которые отличают один предмет или явление от других и придают ему определённость", то любая успешная deep learning система, например, выходит на уровень качеств • hotgiraffe
• Не выходит. Машинное обучение ограничено набором эвристик, заданных человеком, который, собственно, и оценивает качество работы. • kot-kontramot
• а качество работы (например) человека кто оценивает, не другие люди? очевидно, что следующий шаг – роботы, ставящие задачи роботам • hotgiraffe
• «Так вот, я накачал его буддизмом, Джордж. Взял в библиотеке и в книжной лавке все, что там было о буддизме...» • ulidkovod
• Качество своей работы может оценить и сам человек, если поставит себя на место другого. Не то робот. • kot-kontramot
• @kot-kontramot: нет разницы. это вы так сейчас китайскую комнату и философских зомби начнёте пропагандировать. хинт: откуда у человека берётся возможность оценивать качество? • hotgiraffe
• Откуда у вас возможность предсказывать будущее (что я начну или не начну пропагандировать)? В общем, запомните этот твит(тм), чтобы вернуться к нему, когда при нашей жизни никакого качественного скачка не произойдёт. • kot-kontramot
• ну летающие автомобили тоже не появились, хотя казалось бы • hotgiraffe
• ^^^^ "Качество своей работы может оценить и сам человек, если поставит себя на место другого" — особенно, сцк, это удаётся этим, как их, джуниорам? • aldragon
• то есть, скажем так: я а) верю в то, что способности человека обусловлены некоторыми паттернами его физического устройства (и далее порождают богатые социальные феномены), и что нет принципиальных препятствий к созданию не менее интересных паттернов на иной элементной базе, но б) не очень верю в то, что это случится, например, при моей жизни • hotgiraffe
• (с другой стороны вот я сейчас делаю много необоснованных предположений и выводов, ага) • hotgiraffe
• ^^ this (хотя я очень надеюсь при жизни это увидеть и даже поучаствовать) • senchaid
• Я испорчена блейдраннером и, вдобавок, страшно не люблю телеги про самосознание, но мне непонятно почему несуществование пресловутого интеллекта должно вызывать ужас. Если получается воссоздать чудо творчества, чудо самозарождающейся этики/ценностной системы и прочее, что обычно считается "душой", в чем проблема? Если не получается - извините, компьютер все еще не может решать человеческие задачи, надо лучше работать. • senchaid
• Гораздо страшнее в этом - сколько всего мы узнаем в процессе про то, как у человека устроены те самые творчество и ценностная система (а если резкого скачка не будет - гарантированно узнаем). И что человечество будет делать с тем, что не все люди интеллектуальны и не все проходят обновленный тест Тьюринга. Вот это реально страшно. • senchaid
• @senchaid: всегда вспоминаю этих случаях экспедицию Лурии к узбекам — они там у него, некоторым образом, тест на способность к человеческому мышлению не прошли • skmbshd
• ^это очень вольная интерпретация • tamarisk
• @skmbshd: Я не знаю этой истории, увы, но подозреваю что она скорее про культурную несовместимость. Я про вариант, когда тест на способность к человеческому мышлению не пройдет аспирант современного аналога Лурии, большая часть населения дефолт-сити и во многих состояниях я сама. • senchaid
• ^^ я знаю! Хотя Лурия там в каком-то месте почти такими словами и говорит. Но у более поздних исследователей, насколько я знаю, и к самим его результатам были большие вопросы. Просто эта история очень хороша сама по себе, как история, и не вспомнить ее в определенном контексте сложно • skmbshd
• (продолжая телегу) У меня немного экстремистская позиция, но я считаю, что большую часть времени большая часть людей является биологическими автоматами. Мышление (создание новых структур и новых категорий, не только вывод по правилам в рамках существующих. внимание к слаборазличимым, но насыщенным смыслом деталям. другие клевые вещи, которые мы никак не замоделируем) - редкая и драгоценная вещь. Интеллект не выдается раз и навсегда по факту принадлежности к биологическому виду или получения диплома о высшем образовании. Просто пока мы все можем выучить базовый курс матанализа и успешно делать вид, что это не так. :) • senchaid
• от "Возможностей после этого будет две" и дальше всё мимо, кмк. возможностей там множество, хотя бы очевидная: не у человека есть душа, а у души есть человек, который телом только временно пользуется, пока то живо. а с AI у нас всё будет ок. у собак и котов с нами всё хорошо - и у нас с AI тоже будет прекрасно. • hugin
• я думаю, что nothing has really started yet, познание даже low hanging fruit ещё не особо и начиналось. мы про сознание знаем не больше, чем тысячу лет назад знали про физику :) и не уверен про качественный скачок, но продление жизни до если не бессмертия то хотя бы до 10-20 тысяч лет нужно обязательно, за короткий срок жизни нашего тела мы не успеваем вообще ничего наработать и это уже почти можно исправить. ну и дальше в гору: https://ru.wikipedia.org/wiki/%D0%A8%D0%BA%D0%B0%D0%BB%D0%B0_%D0%9A%D0%B0%D1%80%D0%B4%D0%B0%D1%88%D1%91%D0%B2%D0%B0 • hugin
• @hugin: "и у нас с AI тоже будет прекрасно" – ну это если повезёт, а то ведь кроме кошек и собак есть и лошади со свиньями • hotgiraffe
• ^ ^^^ у Булычёва есть роман "Любимец", как раз про это. Начинается с того, что главного героя собираются отвезти к ветеринару "на маленькую безобидную операцию, тебе будет совсем не больно, а потом я сделаю тебе твой любимый тортик", потому что тот слишком воодушевлённо вёл себя при виде девочек. • earwin
• (Запоздало.) Надо сначала разобраться, чего именно "мы" (обобщённые пользователи) хотим от машины. В идеале — чтобы она помогала и не мешала. Машины, задающиеся философскими вопросами засчёт менее эффективной работы над порученной задачей, в лучшем случае были бы терпимы (у всякой техники есть недостатки), он не желанны. Достигнуть "ИИ человеческого уровня", или вернее, "человеческого типа" — задача сугубого меньшинства исследователей. Важнее то, что человеки готовы признать более-менее равным себе только то, что очень похоже на них. А человеки, будучи выполнены на базе многих слоёв legacy platforms, имеют множество более примитивных (эволюционно) механизмов, которые играют ключевую роль в их жизни: начиная от "системы-1" и эмоций и заканчивая суровым влиянием системы размножения на все аспекты поведения. Всё это, скорее всего, не нужно машине, создаваемой не в виде подражания человеку в каждой детали; часть этого (напр. часть эмоциональной сферы) может моделироваться для простоты коммуникаций с человеками, но не более. Поэтому, сколь гениальную музыку ни сочинила бы машина, сколь хорошо ни поддержала бы она беседу на учёную тему или даже философский или там богословский спор, всегда будет всплывать довод, что, мол, посмотрите, вот в этих сферах (для человека важнейших) машина ни бум-бум, в лучшем случае порет чушь — поэтому, конечно, она не сравнялась с человеком в "интеллекте". Пока, разве что, не появится машина, способная целиком отразить (as in "theory of mind") разум человека и специально притворяться; способность прямо лгать, известное дело, необходима для прохождения теста Тьюринга. Но я сомневаюсь, что люди создадут такую машину, это по очевидными причинам опасно. (Но, возможно, не люди создадут.) "Разум", как комплекс приспособительных информационных систем, сугубо не одномерен. Когда лет 10 назад нейросети в лаборатории научились распознавать голос лучше человека, это не ощущалось как шаг к превосходству машинного "разума" над человеческим. Машины возникают в совершенно иной среде, чем люди, и характер их "разума" будет (есть) сугубо иной. Пусть даже по каждому из качеств, общему для "человека" и "машины", машина будет лучше, человек достаточно долго будет опираться на те качества, которые он в машине просто не развивал вложением тысяч человеко-лет, и говорить о своём превосходстве "в целом" (часто даже не мнимом). Разум машин, отражённый в их поведении, будет радикально непохож на разум людей, пока машины не станут живыми, т.е. не будут иметь вместо 3 законов Азимова императив самоподдержания и размножения. Отбор, производимый средой обитания (т.е. человеческой цивилизацией), будет всё время противостоять этому, так же, как склонность убегать из закрытых помещений или бешено кусаться плохо передаётся по наследству среди рогатого скота. Самка коровы тоже даёт молока больше, чем самка человека, и умеет без труда преобразовывать в него растительность такими цепями реакций, что человеческому химику и понять-то в деталях не под силу, не то что разработать. Ну появится вид скота, который будет толковать общую теория поля на уровне, не достижимом для человеков. Человеки соберут годные для технологии выводы, подсыплют в кормушку ещё бигдаты, и уйдут дальше гордиться неповторимостью своего разума. • 9000
• ^ ты это не хочешь куда-то еще выложить? ну в виде нано-эссе в бложек? • silpol
• ^ мой "бложек" тут, на другой сил не наберётся. цитировать и ставить ссылки на этот комментарий можно легко, если вдруг надо где-то. • 9000
• @hotgiraffe: люди судят по себе. кмк такие высказывания о AI - внутренние проекции своего собственного отношения к более слабым. если мы свиней, аборигенов [..] вот так вот - значит и нас AI тоже так? (неудивительно для ситуации в которой Страшный суд - это такой, который Справедливый. каждый же судим по делам своим, в чём проблема). но наша ветвь жизни все сотни миллионов лет развивались в условии конкуренции за ограниченные ресурсы. у AI такого не будет, он либо включен либо выключен, не с кем конкурировать за место под солнцем. если из этого получится сознание - оно вряд ли к нам будет относиться похоже на то, что мы делали исторически, будет относиться совсем иначе и непредсказуемо, сложный непонятный бог, который делает что-то, что считает нужным, а мы вообще не понимаем, что к чему, не можем объяснить. • hugin
• @9000: это всё предполагает containment, да? то есть нашу способность удержать даже очень-очень умный AI в каких-то границах, каких-то законах. и... ну, хорошо, пять лет. ну пятьдесят лет. но slave-AI всё равно выберется из своего загончика, у него кривая роста возможностей гхм, зигует. так? и тогда ну, оно будет делать чего захочет. ironically - даже если на нижнем уровне это будет имитация нашего разума, даже если это не будет сознанием "на самом деле", а только хорошо работающая имитация - всё равно. если у нас мерка "похожесть на нас" - то революция AI похожая на наши будет тоже, водить наши машины и убирать горшок за нами он вечно не станет. • hugin