Четвертая мировая война книга о чем
На пороге нового рабства
Книга «Четвертая мировая война. Будущее уже рядом» написана для дремлющих за гаджетами читателей, которые не замечают, как их клик за кликом порабощает искусственный интеллект (ИИ). Психотерапевт Андрей Курпатов не скрывает своего пессимизма относительно недалекого будущего человечества.
Искусственный интеллект, по мнению Андрея Курпатова, в разы превосходит так называемый венец природы. В отличие от людей ИИ продолжает ускоренно самосовершенствоваться. Человек в то же время безостановочно глупеет, облегчая задачу поработителя.
Стремительное развитие ИИ поставило человечество перед системной проблемой, которая имеет технологическое, экономическое, общественно-политическое и экзистенциальное измерения.
Андрей Курпатов прогнозирует, как изменится окружающий нас мир, когда ИИ начнут использовать во всех областях человеческой деятельности.
Искусственный интеллект уже сочиняет музыку и пишет сценарии к фильмам. сможет заменить работника, вторую половинку, а для некоторых даже икону.
Если ИИ будет развиваться и дальше, а люди продолжат деградировать, нас ждет Третья мировая война — за контроль над данными, ежесекундно производимыми человечеством. И если люди переживут Третью мировую, они и не заметят, как проиграют Четвертую — искусственному интеллекту. Цель книги — встряхнуть читателей, раскрыть им глаза на надвигающуюся трагедию, пока не стало слишком поздно.
Почему ИИ не победил раньше
В начале 60-х годов XX века ученые были полны оптимизма относительно развития искусственного интеллекта. Джон Ирвинг Гуд придумал концепцию «интеллектуальной революции», согласно которой человеку достаточно создать одну сверхразумную машину, а она сможет разработать еще более умный ИИ Однако в 1970—1980 годы мир разочаровался в возможностях искусственного интеллекта. Сегодняшний успех ИИ не был тогда возможен из-за нескольких препятствий:
Нехватка вычислительных мощностей оборудования
В 1960-е мощность современного смартфона обошлась бы в триллионы долларов, а сегодня этот мини-компьютер стоит не больше тысячи.
Подход «сразу к сложному»
До середины 1980-х среди исследователей ИИ господствовал нисходящий подход. Считалось, что по сложности искусственный интеллект должен быть сразу же подобен механическому человеку. Сегодня от этого подхода отказались.
Отсутствие больших данных
Огромные массивы информации существовали еще со времен появления письменности. Тем не менее с приходом интернета количество данных превысило человеческие возможности их самостоятельно обработать. Сегодня ни один эксперт не может быть в курсе всей актуальной литературы, выпускаемой по его специализации.
После «зимы ИИ» подход к искусственному интеллекту изменился, и на смену пришел восходящий подход, или «от простого к сложному».
Сначала надо научить ИИ азам, а потом дать ему данные для обучения. Дальше нужно позволить машине самой постепенно прийти к успешному результату.
Такой подход напоминает взросление ребенка или эволюцию человека. не требуются постоянные наставления или вмешательство природы. Кроме того, скорость обучения ИИ в разы превышает человеческие возможности.
Теперь, когда главные препятствия развитию ИИ исчезли, эволюция искусственного интеллекта подчиняется двум законам:
Закон Мура
Закон Мура был сформулирован Гордоном Муром, нынешним основателем компании Intel. Изначально правило касалось только технологии транзисторов, которые стремительно дешевели и становились энергоэкономичнее.
Согласно закону Мура, мощность компьютеров будет увеличиваться каждые 18 месяцев. В течение примерно этого же времени размер компьютера и цена, затрачиваемая на его производство, будут уменьшаться. Вполне возможно, что технологии ИИ продолжат развиваться согласно этому закону.
Закон ускоренной отдачи
Согласно мнению изобретателя и футуролога Рэя Курцвейла, новые изобретения испытывают экспоненциальный рост. Он проходит в три этапа:
I. Медленный рост, когда ведется поиск путей применения изобретения. На этом этапе происходит разработка слабого, узконаправленного ИИ.
Пример слабого искусственного интеллекта — Deep Blue, суперкомпьютер компании IBM. Тем не менее не стоит обманываться названием: так называемый слабый ИИ обыграл в 1997 году чемпиона мира по шахматам Гарри Каспарова.
Узконаправленный искусственный интеллект может решить какую-то конкретную задачу в определенной области. Если он запрограммирован отслеживать акции, он не сумеет сыграть сонату Бетховена, а тем более написать свою.
II. Быстрый рост возможностей и мощностей изобретения. Этой стадии соответствует сильный или общий ИИ.
Общий искусственный интеллект способен успешно справляться с задачами самого разного характера. пока не создан.
III. Стабилизация — завершающий этап после резкого скачка роста, создает новую действительность.
После стабилизации появляется новая технологическая парадигма, модель сосуществования технологии и людей, которая изменяет общество до неузнаваемости.
Одновременно само изобретение становится обыденностью, как некогда диковинные паровоз, телефон или интернет.
Человечеству еще предстоит узнать, как изменится мир на последнем этапе развития, когда появится сверхсильный интеллект. Он будет справляться с любой задачей лучше, чем ярчайшие умы современности.
Что творится с человеческим мозгом
Слабости человека
Бытует мнение, что искусственный интеллект никогда не превзойдет людей, так как он не сможет воспроизвести уникальные особенности человека. Однако это заблуждение вызвано наивностью и высокомерием. ИИ возобладает над людьми именно потому, что не похож на них.
Человечество проиграло ИИ первый матч в 2016 году в битве при Сеуле. Принадлежащая Google программа ИИ AlphaGo обыграла чемпиона мира по игре в го Ли Седоля со счетом 4: 1. Это был новый рубеж, так как эта игра требует интуиции и стратегического мышления (тех качеств, которыми так гордится человечество). Кроме того, в го число возможных позиций превышает количество атомов во Вселенной.
Цифровой интеллект победил корейца не благодаря хорошему тренеру, а потому что сам научился играть лучше, чем это может любой человек. Разработчики «скормили» нейросети систематизированные данные по миллионам разных партий го, а она самостоятельно нашла между ними необходимые связи.
У сознания человека есть несколько роковых слабостей, которых нет у ИИ:
Линейность мышления. Большинство людей видят мир как нечто постепенное, поэтому не понимают, что ИИ развивается по экспоненте.
Царь Шерам пожелал вознаградить Сету за изобретение шахмат. Мудрец попросил одно зерно за первую клетку шахматной доски, два за вторую, четыре за третью, восемь за четвертую Царь перебил Сету и заверил, что выдаст ему этот жалкий мешок пшеницы в ближайшее время. Однако Шерам даже не подозревал, что всех урожаев мира не хватит, чтобы заполнить шестьдесят четыре клетки зернами. Точно также человечество находится в неведении о скорости развития ИИ в будущем.
Искажение информации. Люди воспринимают одну и ту же информацию по-разному. Они пропускают ее через себя, и на выходе получается уже совсем другое содержимое.
Понравился ли пересказ?
Ваши оценки помогают понять, какие пересказы написаны хорошо, а какие надо улучшить. Пожалуйста, оцените пересказ:
Что скажете о пересказе?
Что было непонятно? Нашли ошибку в тексте? Есть идеи, как лучше пересказать эту книгу? Пожалуйста, пишите. Сделаем пересказы более понятными, грамотными и интересными.
«Четвертая мировая война» Андрей Курпатов, книга кратко
Будучи известным психотерапевтом, автором популярных книг, объясняющих принципы работы мозга, Андрей Курпатов решил выразить свой взгляд не только на настоящее, но и предсказывать будущее человечества с позиции футуролога в своей книге “Четвертая мировая война”. Предисловие новой книги выглядит логично и представительно: в нём Курпатов ставит цель проанализировать, как технологии способны повлиять на психические процессы и поведение человека, но уже в ходе повествования автор заметно отклоняется от заданной темы. Несмотря на значительное число конспирологических теорий, психотерапевт демонстрирует современные направления и тренды, связанные с прогнозированием роли технологий в жизни человечества. Для тех, кто только начал интересоваться этой темой, такой обзор станет неплохим введением в проблему, но для более продвинутых читателей, знакомых с мыслями современных футурологов, книга может показаться вторичной.
Основной посыл работы Курпатова заключается в необходимости регулировать развитие технологий, иначе человечество станет перекладывать всю работу на машины, переставая проявлять свободную волю и задействовать собственный интеллект. Автор последовательно приводит несколько аргументов для доказательства своего утверждения. В статье мы приводим краткое изложение основных идей книги “Четвертая мировая война”.
Аргумент 1. Искусственный интеллект развивается значительно быстрее человека
Вычислительная мощность компьютеров непрерывно улучшается, в то время как человеческий мозг не способен к таким быстрым преобразованиям. Если раньше прерогатива мыслить считалась исключительно человеческой, то теперь ИИ превосходит людей в некоторых областях:
Каждый из этих опытов показывает, как быстро может обучаться искусственный интеллект, насколько он становится многомерен в восприятии и обработке информации.
Аргумент 2. Компьютеры понимают людей больше, чем они сами
Примечательно, что нейронные сети, считающиеся самой прогрессивной разновидностью ИИ, с каждым годом все эффективнее справляются с «человеческими» задачами: создание творческих работ, распознавание образов и др. Их обучение происходит по следующему алгоритму:
После этого начинается самостоятельная работа нейронной сети, но будет ли она пользоваться привычной нам логикой или начнет выстраивать ход мыслей по-своему, невозможно предсказать. Кроме того, это ставит людей в уязвимое положение: машина сможет прогнозировать человеческие поступки, обладая знанием о нашем логическом мышлении, но даже ее создатели не смогут предугадать ход ее мыслей.
Компьютеры собирают информацию о нас через множество устройств: смартфоны, камеры, фитнес браслеты и т.д. Их отличительная особенность – видеть не то, что мы хотим продемонстрировать, но то, какой выбор мы на самом деле совершаем. И это открывает огромный простор для манипуляций людей, в чьих руках окажутся подобные технологии.
Аргумент 3. Самосознание может быть не только у человека
Для каждого человека самосознание – большая ценность, благодаря которой он может чувствовать, анализировать и выстраивать внутренний диалог. По сути, эта способность представляет собой результат действия электрических импульсов, возникающих по определенной схеме. И все внутренне наполнение: воспоминания, эмоции, размышления выполняет прежде всего функциональную роль – помощь в решении поставленных задач.
Для каждой психической реакции существует свой ассоциативный ряд и язык, помогающий человеку описать происходящее. Это разделяет сигналы нашего тела на две системы: первая представляет собой бездумную реакцию на внешние раздражители, вторая – дает нам понимание того, как мы реагируем на происходящее. Язык объясняет наши эмоции: положительные они, негативные ли – все можно выразить при помощи слов.
Курпатов считает, что искусственному интеллекту тоже можно дать такую систему, которая объясняла бы ему его поведение и реакции. Такой опыт должен проходить под строгим контролем наблюдателей, но нейросеть при этом училась бы быть автономной. Появление механизма, похожего на самосознание, еще больше «очеловечило» бы компьютер, но вместе с тем сделало бы его еще более непредсказуемым и неподконтрольным своим создателям.
Аргумент 4. Наши когнитивные способности снижаются
Человеческий мозг устроен таким образом, чтобы искать легкие пути решения и максимально дистанцироваться от того, что вызывает дискомфорт. В отношении сознания существует эффект «иллюзии понимания», заключающийся в том, что человеку гораздо легче решить, что он понял принцип работы той или иной системы, чем признать недостаток информации. В результате простая и понятная картина мира становится ближе и важнее, чем истина и объективность.
Это приводит к парадоксальной ситуации, в которой с одной стороны, одна из потребностей человека заключается в саморазвитии и познании, с другой, ему важно экономно расходовать свои когнитивные силы, из-за чего он останавливается на чем-то привычном и понятном, не заглядывая глубоко. Психика первобытных людей формировалась в условиях, когда доступ к информации был ограничен, и знания являлись большой ценностью. Сейчас информация поступает отовсюду с такой скоростью, что человек не успевает все перерабатывать и запоминать. В результате простые упражнения вроде объяснения смысла прочитанного вызывают значительные затруднения из-за невозможности целенаправленной концентрации внимания.
Такие выводы особенно тревожны, потому что человечество всегда делало ставку на творчество и креативность, если речь шла о сравнении с компьютерами. Результаты исследования, проведенного в Америке преподавательницей Мэри Кюнг Хи Ким, показали, что последние пятьдесят лет детская креативность последовательно снижалась. Такие дети, вырастая, становятся взрослыми, не проявляющими тягу к творчеству, то есть не выходящими за рамки рутинной повседневности.
Для человеческого мозга характерна динамическая стереотипия – новые привычки приобретаются тяжело, но отучаться от них еще тяжелее. Поэтому результаты тестирования пациентов с цифровой зависимостью показывают, насколько сильно эта новая «привычка» изменяет головной мозг, демонстрируя те же процессы, что и при алкогольной или химической зависимости.
Нахождение в интернете: игры в приложениях или просмотр ленты в социальных сетях вызывает в нашем мозге нейрохимическое подкрепление, дающее положительную реакцию на процессы, связанные с поиском, распознаванием образов или решением задач. Мозг одинаково рад и обнаружению грибов на опушке, и чтению постов в фейсбуке, приравнивая эти события по ценности к пониманию какого-то многопланового философского учения или выполнению сложной рабочей задачи. Приятным бонусом становится то, что первое сделать гораздо легче, чем второе, а удовольствие при этом одинаковое. Несмотря на обилие интересного и познавательного контента, мозг в погоне за быстрым и легким удовольствием выберет скорее поиграть в какую-нибудь легкую игру, чем почитать лонгрид, посвященный курсу биткоинов.
Примечательно, что сам факт наличие смартфона рядом уже оказывает влияние на работу мозга. Психологи Адриан Ф. Уорд и Маартен В. Бос тестировали 1500 студентов, предложив им работу, состоящую из задач разной сложности. Тестируемых разделили на группы: у первой смартфон был в соседней комнате, смартфоны второй поместили вне поля зрения, не уведомив участников об их местонахождении, у третьей группы телефоны остались на столе, но студентам не разрешалось к ним прикасаться. Результаты теста показали, что третья группа хуже всех справилась с вопросами, что психологи связывали с постоянным отвлечением на смартфон, находящийся рядом.
В результате получается, что технологии качественно снижают когнитивные процессы в следующих направлениях:
Аргумент 5. Технологии усиливают разрыв между людьми
Экономические процессы становятся все теснее завязаны на ИТ-технологиях. Они уже включены во многие сферы государственного и общественного функционирования: от массовых коммуникаций и сферы развлечений до тяжелой промышленности и сельского хозяйства. Разработка месторождений проходит под контролем автоматизированных машин, состояние полей можно оценить при помощи дронов, проектирование и тестирование новых материалов, искусственных органов проходит компьютерную обработку, прежде чем начать полноценно функционировать на практике. При этом подавляющее число способов коммуникации проходит через интернет. Современные тенденции демонстрируют, что со временем такое положение будет только усиливаться, ведь уже сегодня число людей, работающих удаленно, неуклонно возрастает.
Там, где технологии владеют пространством и информацией, открывается большой простор для манипуляций посредством гаджетов и социальных сетей, что в сочетании с отсутствием должного уровня кибербезопасности вызывает опасения. ИТ-компании получают такую же власть как парламент отдельной страны или президент, при том что их возможности простираются гораздо дальше. При этом развитие технологий, глобализация, возможность дистанционного обучения все еще не в силах сократить социальное расслоение. Экономический разрыв между разными слоями населения становится все более отчетливым, а противостояние демократических и автократических систем растет. Это иллюстрирует ситуацию борьбы контроля и свободы: богатым технологии дают доступ к большим возможностям, бедные же не могут удовлетворить даже элементарные потребности.
Но опасность представляют не только возможные технократы, политически мотивированное использование технологий давно не редкость. Примером может служить китайская система социального рейтинга, которая пока не охватила всю страну, но уже функционирует в регионах. Информация о каждом человеке бесперебойно фиксируется: его поведение в интернете, переписки, покупки, даже будучи вне сети он находится под контролем многочисленных камер. Аналитические системы собирают о нем информацию и оценивают степень лояльности, присваивая или отнимая баллы, которые впоследствии формируют рейтинг. Высокий рейтинг дает преимущества в виде льгот, низкий мешает при приеме на работу, обслуживании в частных учреждениях и т.д.
Заключение
Несмотря на то, что определенные риски, связанные с развитием искусственного интеллекта существуют, не стоит поддаваться панике и пытаться полностью изолировать себя от мира технологий. Курпатов в своей книге “Четвертая мировая война” констатирует факты, хоть и делает это в несколько предапокалиптической трактовке. При этом сам автор показывает, что важно в первую очередь сохранять бдительность, а не ополчаться против мира в целом. Его книга может стать неплохим пособием, иллюстрирующим, как важно развивать в себе вдумчивость и осознанность, чтобы кто-то не подменил их своими идеалами.
Четвёртая мировая война (Курпатов)
Содержание
На пороге нового рабства [ ред. ]
Книга «Четвертая мировая война. Будущее уже рядом» написана для дремлющих за гаджетами читателей, которые не замечают, как их клик за кликом порабощает искусственный интеллект (ИИ). Психотерапевт Андрей Курпатов не скрывает своего пессимизма относительно недалекого будущего человечества.
Искусственный интеллект, по мнению Андрея Курпатова, в разы превосходит так называемый венец природы. В отличие от людей ИИ продолжает ускоренно самосовершенствоваться. Человек в то же время безостановочно глупеет, облегчая задачу поработителя.
Стремительное развитие ИИ поставило человечество перед системной проблемой, которая имеет технологическое, экономическое, общественно-политическое и экзистенциальное измерения.
Андрей Курпатов прогнозирует, как изменится окружающий нас мир, когда ИИ начнут использовать во всех областях человеческой деятельности.
Искусственный интеллект уже сочиняет музыку и пишет сценарии к фильмам. Скоро ИИ сможет заменить работника, вторую половинку, а для некоторых даже икону.
Если ИИ будет развиваться и дальше, а люди продолжат деградировать, нас ждет Третья мировая война — за контроль над данными, ежесекундно производимыми человечеством. И если люди переживут Третью мировую, они и не заметят, как проиграют Четвертую — искусственному интеллекту. Цель книги — встряхнуть читателей, раскрыть им глаза на надвигающуюся трагедию, пока не стало слишком поздно.
Почему ИИ не победил раньше [ ред. ]
В начале 60-х годов XX века ученые были полны оптимизма относительно развития искусственного интеллекта. Джон Ирвинг Гуд придумал концепцию «интеллектуальной революции», согласно которой человеку достаточно создать одну сверхразумную машину, а она сможет разработать еще более умный ИИ и т. д. Однако в 1970—1980 годы мир разочаровался в возможностях искусственного интеллекта. Сегодняшний успех ИИ не был тогда возможен из-за нескольких препятствий:
Нехватка вычислительных мощностей оборудования [ ред. ]
В 1960-е мощность современного смартфона обошлась бы в триллионы долларов, а сегодня этот мини-компьютер стоит не больше тысячи.
Подход «сразу к сложному» [ ред. ]
До середины 1980-х среди исследователей ИИ господствовал нисходящий подход. Считалось, что по сложности искусственный интеллект должен быть сразу же подобен механическому человеку. Сегодня от этого подхода отказались.
Отсутствие больших данных [ ред. ]
Огромные массивы информации существовали еще со времен появления письменности. Тем не менее с приходом интернета количество данных превысило человеческие возможности их самостоятельно обработать. Сегодня ни один эксперт не может быть в курсе всей актуальной литературы, выпускаемой по его специализации.
После «зимы ИИ» подход к искусственному интеллекту изменился, и на смену пришел восходящий подход, или «от простого к сложному».
Сначала надо научить ИИ азам, а потом дать ему данные для обучения. Дальше нужно позволить машине самой постепенно прийти к успешному результату.
Такой подход напоминает взросление ребенка или эволюцию человека. Однако ИИ не требуются постоянные наставления или вмешательство природы. Кроме того, скорость обучения ИИ в разы превышает человеческие возможности.
Теперь, когда главные препятствия развитию ИИ исчезли, эволюция искусственного интеллекта подчиняется двум законам:
Закон Мура [ ред. ]
Закон Мура был сформулирован Гордоном Муром, нынешним основателем компании Intel. Изначально правило касалось только технологии транзисторов, которые стремительно дешевели и становились энергоэкономичнее.
Согласно закону Мура, мощность компьютеров будет увеличиваться каждые 18 месяцев. В течение примерно этого же времени размер компьютера и цена, затрачиваемая на его производство, будут уменьшаться. Вполне возможно, что технологии ИИ продолжат развиваться согласно этому закону.
Закон ускоренной отдачи [ ред. ]
Согласно мнению изобретателя и футуролога Рэя Курцвейла, новые изобретения испытывают экспоненциальный рост. Он проходит в три этапа:
I. Медленный рост, когда ведется поиск путей применения изобретения. На этом этапе происходит разработка слабого, узконаправленного ИИ.
Пример слабого искусственного интеллекта — Deep Blue, суперкомпьютер компании IBM. Тем не менее не стоит обманываться названием: так называемый слабый ИИ обыграл в 1997 году чемпиона мира по шахматам Гарри Каспарова.
Узконаправленный искусственный интеллект может решить какую-то конкретную задачу в определенной области. Если он запрограммирован отслеживать акции, он не сумеет сыграть сонату Бетховена, а тем более написать свою.
II. Быстрый рост возможностей и мощностей изобретения. Этой стадии соответствует сильный или общий ИИ.
Общий искусственный интеллект способен успешно справляться с задачами самого разного характера. Такой ИИ пока не создан.
III. Стабилизация — завершающий этап после резкого скачка роста, создает новую действительность.
После стабилизации появляется новая технологическая парадигма, модель сосуществования технологии и людей, которая изменяет общество до неузнаваемости.
Одновременно само изобретение становится обыденностью, как некогда диковинные паровоз, телефон или интернет.
Человечеству еще предстоит узнать, как изменится мир на последнем этапе развития, когда появится сверхсильный интеллект. Он будет справляться с любой задачей лучше, чем ярчайшие умы современности.
Что творится с человеческим мозгом [ ред. ]
Слабости человека [ ред. ]
Бытует мнение, что искусственный интеллект никогда не превзойдет людей, так как он не сможет воспроизвести уникальные особенности человека. Однако это заблуждение вызвано наивностью и высокомерием. ИИ возобладает над людьми именно потому, что не похож на них.
Человечество проиграло ИИ первый матч в 2016 году в битве при Сеуле. Принадлежащая Google программа ИИ AlphaGo обыграла чемпиона мира по игре в го Ли Седоля со счетом 4 : 1. Это был новый рубеж, так как эта игра требует интуиции и стратегического мышления (тех качеств, которыми так гордится человечество). Кроме того, в го число возможных позиций превышает количество атомов во Вселенной.
Цифровой интеллект победил корейца не благодаря хорошему тренеру, а потому что сам научился играть лучше, чем это может любой человек. Разработчики «скормили» нейросети систематизированные данные по миллионам разных партий го, а она самостоятельно нашла между ними необходимые связи.
У сознания человека есть несколько роковых слабостей, которых нет у ИИ:
Линейность мышления. Большинство людей видят мир как нечто постепенное, поэтому не понимают, что ИИ развивается по экспоненте.
Царь Шерам пожелал вознаградить Сету за изобретение шахмат. Мудрец попросил одно зерно за первую клетку шахматной доски, два за вторую, четыре за третью, восемь за четвертую и т. д. Царь перебил Сету и заверил, что выдаст ему этот жалкий мешок пшеницы в ближайшее время. Однако Шерам даже не подозревал, что всех урожаев мира не хватит, чтобы заполнить шестьдесят четыре клетки зернами. Точно также человечество находится в неведении о скорости развития ИИ в будущем.
Искажение информации. Люди воспринимают одну и ту же информацию по-разному. Они пропускают ее через себя, и на выходе получается уже совсем другое содержимое.