Не придумал окончания в названии темы. Может быть, общими усилиями допишем.
Речь о том, что в жизни человека на земле происходят постоянные изменения. Жизнь становится «всё лучше, всё веселее». Но лишь небольшая часть меняет жизнь человека (а точнее, человечества) принципиально. Хочется вычленить именно такие изменения.
До недавнего времени я полагал, что такое кардинальное изменение лишь одно:
1. Человек теперь может себя уничтожить. (более точно: один человек может уничтожить всех остальных на земле)
Никогда раньше, до конца середины примерно 20-го века речь не шла о тотальном уничтожении жизни, теперь это стало печальной реальностью. И это накладывает на Имеющего-Власть огромную ответственность, а на всех прочих – не менее огромную обреченность. Таким образом, само существование человечества стало так же ненадежно, как и существование отдельного индивидуума.
Недавно обнаружилась вторая проблема, вроде бы совершенно очевидная, но осознанная как принципиальная по своим последствиям лишь вчера:
2. Темп изменений жизни человека отменил приоритет традиции.
То, что темп жизни нарастает, очевидно. Количество информации, технических новинок, уровней коммуникации удваивается за обозримое число лет. Ну, казалось бы, нарастает и нарастает, это ничего, раз возможности человеческого мозга пока достаточны. Но оказывается, что эти изменения затрагивают не только какие-то технические знания, но меняют всю жизнь – и образование, и медицину, и законодательство, и моду, и вообще все социальные сферы. И получается, что для уверенной жизни в такой среде необходимо постоянно усваивать массу новой информации. И если в давние века достаточно было опереться на авторитет дедов, на вековой уклад, на «так принято» - теперь всё это почти ничего не значит. Все эти «уклады» лучше всего чувствуют себя в музее.
И это приводит к необычным результатам – рушатся не просто традиции, рушится уважение к их носителям – родителям, старшему поколению. Даже к книге, как слишком традиционному и «медленному» носителю знаний.
Есть ли еще подобные изменения? Такие явные новшества, как мгновенная связь человека с человеком независимо от его местоположения, как выход человека в ближний космос, как осознание потрясающей сложности устройства мира (вселенной) в целом – не кажутся мне столь принципиальными, как пп.1 и 2. Может быть, может быть к такому кардинальному новшеству стоит отнести создание глобальной интернет-сети, но здесь надо суметь сформулировать то самое «принципиальное следствие». Пока затрудняюсь. Возможно, даже опоздаю, когда окажется, что эта сеть вышла из-под контроля человека.
Известный историк Юваль Ной Харари — о пяти главных проблемах человечества. Полная версия выступления в Давосе
В третьем десятилетии 21 века человечество столкнулось с таким множеством проблем и вопросов, что теперь на них сложно сфокусироваться. Я хочу обратить внимание на проблемы, угрожающие выживанию нашего вида. Это ядерная война, экологический коллапс и технологический прорыв. Ядерная война и экологический коллапс — уже знакомые нам угрозы, поэтому позвольте объяснить, в чем заключается менее известная нам угроза технологического прорыва. Мы столько слышим о пользе технологий будущего, и это, конечно, так, но они также могут разбалансировать человеческое общество и изменить сам смысл человеческой жизни разными способами — от создания мирового бесполезного класса до возникновения колониализма данных и цифровой диктатуры.
1. Бесполезный класс. Сначала мы можем столкнуться с потрясениями на социальном и экономическом уровнях. Автоматизация скоро уничтожит миллионы рабочих мест, и хоть новые рабочие места, безусловно, будут созданы, неизвестно, смогут ли люди приобрести необходимые знания и навыки вовремя.
Например, вы 50-летний водитель грузовика, утративший работу из-за системы беспилотного управления. Есть варианты новой работы — создавать программное обеспечение, например, или учить инженеров йоге. Но как 50-летний водитель грузовика создаст себя заново в качестве разработчика софта или учителя йоги? И людям потребуется делать это не однократно, а вновь и вновь в течение всей жизни, поскольку автоматизационная революция — это не разовое событие, после которого рынок труда уляжется и вернется к балансу.
Скорее всего, нас ждет каскад все больших изменений, если учесть, что искусственный интеллект еще и близко не раскрыл свой потенциал. Рабочие места будут исчезать, появятся новые, но затем и эта работа изменится и исчезнет. Если раньше люди боролись с эксплуатацией, то в 21 веке будут по-настоящему бороться с ненужностью. И гораздо хуже быть ненужным, чем эксплуатируемым. Побежденные в этой борьбе пополнят ряды бесполезного класса. Эти люди будут бесполезны, конечно, не в глазах семьи и друзей, а с точки зрения экономической и политической системы. Бесполезный класс будет отделен растущей пропастью от все более могущественной элиты.
2. Неравенство и колонии данных. Революция искусственного интеллекта (ИИ) может стать причиной беспрецедентного неравенства не только между классами, но и между странами. В 19 веке несколько стран, такие как Великобритания и Япония, индустриализировались первыми, что позволило им завоевывать и эксплуатировать другие страны. Если мы будем неосторожны, это же ждет нас в 21 веке благодаря ИИ.
Человечество уже посреди гонки вооружений в области ИИ, в которой занимают ведущие позиции США и Китай, а большинство стран плетется далеко позади. Если мы не предпримем меры, чтобы распределить пользу и могущество ИИ между нами, он, скорее всего, принесет сумасшедшее богатство нескольким технологическим центрам, в то время как другие страны обанкротятся и превратятся в эксплуатируемые колонии данных.
Речь не о сценарии, сошедшем со страниц научной фантастики, где роботы бунтуют против людей. Разговор идет о гораздо более примитивном ИИ, которого все же достаточно, чтобы нарушить мировое равновесие.
Просто подумайте, что произойдет с экономикой развивающихся стран, если в Калифорнии дешевле будет производить ткани или автомобили, чем в Мексике. И что произойдет с политикой вашей страны, если через 20 лет кто-то в Сан-Франциско или Пекине будет знать обо всей медицинской и личной истории каждого политика, судьи и журналиста, включая все любовные похождения, психологические слабости и коррупционные действия. Остается ли такая страна независимой или она превратится в колонию данных? Когда у вас достаточно данных, вам уже не нужно отправлять куда-то солдат, чтобы контролировать страну.
3. Цифровая диктатура. Следующая угроза, с которой мы можем столкнуться — это расцвет цифровых диктатур, неустанно следящих за каждым. Эта угроза может быть изложена в виде простой формулы, на мой взгляд, определяющей жизнь в 21 веке: Б х В х Д=ВХЧ. В ней «Б» означает биологические знания, «В» — вычислительную мощность, «Д» — данные. Результатом умножения будет «ВХЧ» — возможность хакнуть человечество. Если у вас достаточно знаний по биологии, вычислительной мощности и данных, вы сможете хакнуть мое тело, мозг и всю мою жизнь, вы будете знать меня даже лучше, чем я знаю себя. Вы сможете знать мой тип личности, мои политические взгляды, сексуальные предпочтения, слабости моей психики, глубочайшие страхи и надежды.
Система, которая понимает нас больше, чем мы сами, сможет предугадывать наши чувства, решения и принимать решения за нас. Множество тиранов и правительств прошлого мечтали об этом, но им не хватало вышеупомянутых знаний, мощностей и данных, чтобы хакнуть миллионы людей. Это было не под силу ни Гестапо, ни КГБ. Но скоро некоторые корпорации и правительства смогут систематически хакать человечество.
Пора привыкнуть к мысли, что больше мы не загадочные души, а животные, которых можно хакнуть. Умение хакать людей, конечно, может быть использовано во благо, например, в здравоохранении. Но если эта сила попадет в руки Сталина 21-века — а в мире достаточно тех, кто хочет примерить эту роль — результатом станет худший тоталитарный режим в истории человечества. Только представьте себе Северную Корею через 20 лет, в которой все будут вынуждены носить биометрический браслет, постоянно следящий за давлением, пульсом, мозговой деятельностью. Если слушая выступление великого лидера, вы злитесь, но при этом улыбаетесь и аплодируете — власть будет знать об этом и может отправить вас в подобие ГУЛАГА уже на следующее утро.
Если такие режимы тотальной слежки будут существовать, не думайте, что кто-то останется в безопасности. Власть СССР в сталинский период следила за коммунистической элитой больше, чем за кем-либо. Будущие режимы тотального контроля будут похожи — чем выше ваше положение в иерархии, тем больше за вами следят. Хотите ли вы, чтобы ваш гендиректор или президент знали, что вы на самом деле думаете о них? Поэтому все человечество, включая элиту, заинтересовано в предотвращении возникновения таких цифровых диктатур. […]
Даже если нам удастся предотвратить возникновение цифровых диктатур, возможность хакнуть людей может изменить само понятие человеческой свободы. Чем больше мы полагаемся на ИИ в принятии решений, тем больше власть смещается к алгоритмам.
Это происходит уже сейчас: сегодня миллиарды узнают о новостях из Facebook, верят в подлинность информации, которую принес алгоритм Google. Теперь Netflix решает, что вы посмотрите, а алгоритмы Amazon и Alibaba/Aliexpress — что купите. В недалеком будущем похожие алгоритмы могут выбрать за вас работу или партнера, дадут ли вам кредит и поднимет ли центральный банк процентную ставку. И если вы спросите, почему вам не дали кредит или почему банк не поднял процентную ставку, ответ будет один и тот же: «Компьютер сказал нет». Так как ограниченному человеческому мозгу не хватает знаний, вычислительной мощности и данных, люди просто не смогут понять решения компьютера.
Поэтому даже, казалось бы, в свободных странах, люди потеряют контроль над собственными жизнями и перестанут понимать государственную политику. Даже сегодня финансовую систему понимает около 1% людей. Через несколько десятилетий этот процент будет равняться нулю.
4. Философский кризис. Мы, люди, привыкли думать о жизни, как о драме принятия решений. Во что превратится значение человеческой жизни, если большинство решений будут принимать алгоритмы. У нас даже нет философских моделей для понимания такого существования!
Обычный спор между философами и политиками раньше выглядел так: философы делятся множеством фантастических идей, а политики в ответ терпеливо объясняют, что для того, чтобы воплотить эти идеи в жизнь, им не хватает средств. Теперь мы оказались в противоположной ситуации, мы на пороге философского банкротства. Революции-близнецы — инфо- и биотехнологий — подарили политикам и бизнесменам возможность создать ад или рай, а философам трудно концептуализировать то, как новый рай или ад будет выглядеть, и это очень опасная ситуация.
Если нам не удастся осмыслить идею нового рая вовремя, нас легко смогут ввести в заблуждение наивными утопиями. А если не удастся концептуализировать новый ад — мы можем оказаться заперты в нем без всякой возможности выйти.
5. Разумный замысел. В грядущие десятилетия технологии могут не только изменить экономику, политику и философию, но и биологию. ИИ и биотехнологии дадут нам богоподобные возможности, мы даже сможем создавать абсолютно новые формы жизни. После 4 млрд лет формирования органической жизни путем естественного отбора, мы оказались на пороге новой эры, где неорганическая жизнь сформирована разумным замыслом. Наш разумный замысел станет новой движущей силой эволюции.
Поэтому пользуясь новыми богоподобными силами созидания, мы можем совершить ошибки вселенского уровня. Возможно, правительства и корпорации будут использовать технологии для усиления необходимых им человеческих навыков, таких как ум и дисциплина, в то же время пренебрегая другими человеческими навыками, такими как сочувствие, художественная чувствительность и духовность. Результатом может стать раса очень умных и очень дисциплинированных людей, которым при этом будет не хватать сочувствия, умения творить и духовной глубины.
Конечно, это не пророчества, а просто то, что может произойти. Использование технологий ни в коем случае не предопределено. В 20 веке люди использовали технологии индустриальной революции, чтобы построить очень разные общества — фашистскую диктатуру, коммунистический режим, либеральную демократию — то же самое произойдет в 21 веке. ИИ и биотехнологии, безусловно, изменят мир, но мы можем использовать их, чтобы создавать очень разные общества.
Мировое сотрудничество. Если вы боитесь чего-то из того, о чем я рассказал, вы можете что-то сделать, но для чего-то по-настоящему эффективного нам нужно мировое сотрудничество.
Все три экзистенциальных проблемы, с которыми мы столкнулись — это мировые проблемы, которые требуют мирового решения. Когда любой лидер говорит: «Моя страна прежде всего», мы должны напоминать этому лидеру, что страна не сможет самостоятельно предотвратить ядерную войну или остановить экологический коллапс. И нет страны, которая может регулировать деятельность ИИ и биоинженерии самостоятельно. Любая страна может сказать: «Эй, мы не хотим разрабатывать роботов-убийц или заниматься генной инженерией младенцев, мы хорошие! Но не наши враги, им нельзя доверять, возможно, они будут это делать, поэтому мы сделаем это первыми». Если мы позволим такой гонке вооружений идти в областях вроде ИИ и биоинженерии, уже не важно, кто в ней победит, потому что проигравшим будет человечество.
К сожалению, как раз тогда, когда мировое сотрудничество нужно больше, чем когда-либо, некоторые из самых могущественных стран и мировых лидеров сейчас специально этому противодействуют. Лидеры вроде президента США Дональда Трампа говорят нам, что между национализмом и глобализмом есть неотъемлемое противоречие, поэтому нужно выбрать национализм, но это опасная ошибка! Нет никакого противоречия между национализмом и глобализмом, потому что национализм — это не о том, чтобы ненавидеть иностранцев. Национализм — это о любви к своим согражданам, и в 21 веке, чтобы защитить безопасность своих сограждан, необходимо сотрудничать с иностранцами.
Хороший националист 21 века должен быть и глобалистом. Глобализм — это не создание глобального правительства, отказ от всех народных традиций или открытие границ для бесконечных мигрантов. Глобализм — это подчинение некоторым глобальным правилам. Правилам, которые не отрицают уникальность каждого народа, а лишь регулируют отношения между ними. И хорошая модель — это Чемпионат мира по футболу. Это соревнование между странами, где люди яро болеют за свою национальную команду, но в то же время это и потрясающий пример мировой гармонии. Франция не может играть в матче с Хорватией, если эти страны не согласятся с одними и теми же правилами игры. Это глобализм в действии, если вам нравится Чемпионат мира по футболу — вы уже глобалист.
Надеюсь, что страны могут прийти к общим правилам не только в футболе, но и в том, как предотвратить экологический коллапс, урегулировать опасные технологии и уменьшить мировое неравенство. Важно убедиться в том, что ИИ приносит пользу работникам текстильной промышленности в Мексике, а не только американским разработчикам программного обеспечения. Конечно, это гораздо сложнее, чем футбол, но вовсе не невозможно, потому что невозможного мы уже достигли. Мы уже выбрались из опасных джунглей, в которых жили всю нашу историю.
Закон «джунглей». Тысячи лет люди жили по закону «джунглей», находясь в состоянии повсеместной войны. Закон «джунглей» гласил, что велика вероятность того, что между двумя любыми соседствующими странами в следующем году начнется война. Мир означал только временное отсутствие войны. Когда мир был, например, между Афинами и Спартой или Францией и Германией — это значило, что сейчас они не воюют, но в следующем году вполне могут начать.
Тысячи лет люди думали, что это неизбежно, но за последние несколько десятилетий человечество смогло сделать невозможное — нарушить закон и сбежать из «джунглей». Мы создали либеральный мировой порядок, основанный на правилах, который, несмотря на множество недостатков, позволил войти в самую процветающую и мирную эпоху в человеческой истории. Изменилось само понимание слова «мир», теперь это не временное отсутствие войны, а её маловероятность.
Сейчас в мире есть множество стран, которые почти невозможно представить воюющими друг против друга в следующем году. Например, Франция и Германия. В некоторых областях мира, конечно, идет война, но это не должно искажать мировую картину. Сейчас во время боевых действий погибает меньше, чем от суицида, а порох представляет меньшую опасность, чем сахар. Большинство стран, с некоторыми исключениями, например, Россией, даже не мечтают о завоевании и аннексии соседей, поэтому большинство стран может позволить себе тратить лишь 2% ВВП на оборону и тратить гораздо больше на образование и здравоохранение.
Это не «джунгли». К сожалению, мы настолько привыкли к этой чудесной ситуации, что принимаем ее как должное, а значит — мы стали чрезвычайно беспечными. Вместо того, чтобы делать все, что в наших силах, чтобы усилить хрупкий мировой порядок, страны пренебрегают им и даже специально ему противодействуют.
Мировой порядок сейчас похож на дом, в котором все живут, но никто его не чинит. Он может продержаться еще несколько лет, но если мы продолжим в том же духе — он разрушится, и мы вернемся в «джунгли».
Мы забыли, что это такое, но поверьте мне как историку, вы не хотите возвращаться туда. Там гораздо хуже, чем вы думаете. Да, наш вид эволюционировал в этих «джунглях» — и даже процветал тысячи лет, но вернувшись туда с новыми технологиями 21 века, мы, скорее всего, уничтожим себя. Конечно, даже если мы исчезнем, это не станет концом света. Что-то нас переживет, например, крысы, которые в свое время смогут восстановить цивилизацию. Может, крысы тогда смогут поучиться на наших ошибках, но я больше полагаю надежды на мировых лидеров, а не на крыс.
(Политический аспект выделен красным. Он вполне реален уже сегодня и ужасен еще вчера)
Пользователь
Сообщений: Регистрация: 10.08.2006
30.01.2020 19:02:11
Насколько же это страшно и УЖЕ похоже на истину:
Цитата
Поэтому пользуясь новыми богоподобными силами созидания, мы можем совершить ошибки вселенского уровня. Возможно, правительства и корпорации будут использовать технологии для усиления необходимых им человеческих навыков, таких как ум и дисциплина, в то же время пренебрегая другими человеческими навыками, такими как сочувствие, художественная чувствительность и духовность. Результатом может стать раса очень умных и очень дисциплинированных людей, которым при этом будет не хватать сочувствия, умения творить и духовной глубины.
Пользователь
Сообщений: Регистрация: 10.08.2006
01.02.2020 11:45:01
Очень "скромное" принципиальное изменение, на тему "как количество переходит в качество".
В России фактически запретили детский туризм
"Причина упадка — чрезмерная зарегулированность, особенно усилившаяся в последние два года. Один только список законодательных актов, регламентирующих сферу активного детского туризма, на данный момент состоит из 96 пунктов. Чтобы повести детей в пеший поход, вам необходимо предварительно оформить порядка 70 разрешительных документов, а каждый идущий с вами несовершеннолетний перед выходом на маршрут обязан пройти медицинский осмотр и получить разрешение медицинского работника. Только представьте, какой это бюрократический ад, и это только та часть, что предваряет путешествие.
Всю воду, которую вы планируете пить в походе, вам придётся нести на себе из города. Пункт 3.3 обязывает поить детей в походе только бутылированной водой, на которую должны иметься документы, подтверждающие ее качество и безопасность. То есть нельзя просто взять и вскипятить воду, взятую из родника. И чиновников не интересует, идёте вы в поход на один день или на неделю. При этом максимальный вес рюкзака ребёнка, который регулируется пунктом 8.9, даже у мальчиков 17 лет (самая выносливая категория) ограничен 9 кг.
Поесть в походе чиновники вам тоже не дадут. Пункт 9.3: «Доставка пищевых продуктов осуществляется специализированным транспортом, имеющим оформленный в установленном порядке санитарный паспорт, при условии обеспечения раздельной транспортировки продовольственного сырья и готовых пищевых продуктов, не требующих тепловой обработки». Чиновникам плевать, что большинство туристических маршрутов проходит по лесным и горным тропам, где никакой транспорт и близко не проедет. «Полевые кухни оборудуются под навесом или в каркасной палатке для защиты от атмосферных осадков и пыли. Оборудуются разделочными столами, разделочными досками и поварскими ножами с соответствующей маркировкой: "СМ" — сырое мясо, "СР" — сырая рыба, "СО" — сырые овощи, "ВМ" — варёное мясо, "ВР" — варёная рыба, "ВО" — варёные овощи, "Х" — хлеб, "КС" — куры сырые, "Зелень", "Сельдь"».
На чём готовить еду? Использование в детских походах газового оборудования запрещено. А разведение костра допустимо только в специально отведённых для этого местах. Идёт ли при этом дождь — чиновников не интересует. Кстати, посидеть у костра тоже не получится: детям в походе строго запрещено приближаться к костру на расстояние менее пяти метров.
Поставить палатку вам тоже не дадут. Пункт 2.1 СанПиНа запрещает размещение туристского лагеря на территории, эндемичной по антропозоонозным инфекциям. В эту зону входят более половины всех регионов России, признанных эндемичными по клещевому энцефалиту. В том числе сюда попадает берег Байкала (Иркутская область и Бурятия). Если вы всё-таки идёте в поход в одном из редких регионов, где это ещё можно делать, перед установкой палатки вам предстоит «генеральная уборка территории, скашивание травы, уборка сухостоя и валежника, очистка от колючих кустарников и зелёных насаждений с ядовитыми плодами, акарицидная обработка территории, мероприятия по борьбе с грызунами». При этом запрещено размещение палаточного лагеря далее чем в 20 минутах езды автомобиля от ближайшей пожарной станции. Я вообще таких мест в наших лесах почти не знаю. Кроме того, Росгвардия и МВД обязывают вас огородить палаточный лагерь забором в целях защиты от террористов, но при этом Лесной кодекс запрещает вам городить какие бы то ни было заборы на территории земель лесного фонда.
И это лишь малая часть глупых и высосанных из пальца запретов. Сами почитайте про огнетушители, сертифицированных медиков и поваров, минерализованные полосы и аэрозольные баллончики от клещей, которые с одной стороны вроде как обязательны, а с другой запрещены как легковоспламеняющиеся, и многое другое. А что, если наплевать на чиновничьи требования и отвести детей в поход просто так? Вас как организатора ждёт уголовная ответственность, предусмотренная 238 статьёй УК РФ: «Оказание услуг, не отвечающих требованиям безопасности». И таких дел в России множество.
Активный туризм прививает детям любовь к родной природе и даёт им навыки выживания в диких условиях. В некоторых странах (например, в Китае) путешествия по родному краю даже входят в обязательную школьную программу. В странах со свободной рыночной экономикой качество детского активного туризма обеспечивается рыночными механизмами и институтом репутации. Так и должно быть. Чрезмерный государственный контроль ведёт лишь к коррупции и застою экономики. Единственная цель чиновников — сделать детский туризм фактически невозможным, чтобы самим не нести ни за что ответственности".
Так железно и безжалостно работает закон Паркинсона, раздувающий бюрократию и заставляющий ее работать до полного изнеможения. Так любой организатор детского туризма может посажен - при желании даже без всяких ЧП.
Пользователь
Сообщений: Регистрация: 10.08.2006
24.04.2021 08:05:29
Возможно, мы в преддверии принципиального изменения понимания сознания - не человека!
SETI ---> CETI
ROADMAP контакта с иным разумом.
Появились шансы установить контакт за 5 лет. Поиском иного разума на других планетах проект SETI занимается уже полвека. И пока безрезультатно. Космос молчит. Тем временем, серия недавних открытий поставила крест на концепции когнитивной исключительности Homo sapiens. Мы – не венец природы, а лишь один из возможных вариантов разума, созданных эволюцией по различным «техзаданиям». Помимо людей, на Земле живут представители еще трёх вариантов разума, демонстрирующих сложное поведение, во многом не уступающее людям, а в чем-то и превосходящее (об этом я подробно писал здесь ()). Существует единственная, но пока непреодолимая преграда для контакта людей с иным типом разума. Мы не понимает их язык, а они наш. Попытки понять язык иного разума китообразных предпринимаются даже дольше, чем попытки найти инопланетян в рамках проекта SETI. И столь же безуспешно. И вот наметился прорыв. Новый проект с умышленно похожим на SETI названием CETI (Cetacean Translation Initiative) - инициатива перевода языка китообразных- абсолютно прорывной. Он имеет реальные шансы расшифровать язык кашалотов. Проект запущен только что. Его дорожная карта направлена на решение этой задачи за 5 лет.
В конце поста будут ссылки, где можно узнать детали проекта. Здесь же напишу о главном – почему после полувекового тупика появились реальные шансы контакта с иным разумом. 1) Контакт означает понимание языка. 2) Понимание языка китообразных подразумевает возможность раскодировать их «азбуку Морзе» свистов и щелчков. То, что с их помощью они обмениваются информацией (очень быстро и очень точно) – установленный факт. Но все попытки понять код пока тщетны. Не понятно даже, язык ли это вообще. И есть ощущение полного тупика. 3) Причин тупика две. А) Их язык устроен непостижимым для людей образом. Чтобы понять нечеловеческую «систему кодирования» нужен нечеловеческий интеллект, ибо люди ищут лишь то, что сами понимают (подробней здесь ()). Б) Чтобы понять чужой язык не достаточно слушать чужие разговоры. Надо видеть и понимать, кто говорит и к чему речь ведёт. Это проблема «коктейльной вечеринки». Допустим вы записываете все разговоры на такой вечеринке, где люди говорят на неизвестном вам языке. И чёрта с два вы что-либо поймете. Однако, если вы будете знать, кто говорит, и видеть последствия отдельных фраз и разговоров, у вас появится шанс понять язык. 4) Причину тупика А решено преодолеть с помощью машинного обучения. Нечеловеческому ИИ все равно, в чем распознавать паттерны. И даже если они будут нечеловеческими, ИИ от этого ни холодно, ни жарко. Он вообще не понимает никаких человеко-специфичных черт наших языков, как и шахматный ИИ от DeepMind не понимает человеческих методов игры. 5) Однако, наличия нечеловеческого ИИ мало. Проекты расшифровки языка дельфинов с помощью ИИ уже идут в США и Китае. Но упираются в тупик Б - проблему «коктейльной вечеринки». Инициаторы проекта CETI (Гарвард, Массачусетский технологический институт (MIT), Калифорнийский университет в Беркли, Городской университет Нью-Йорка (CUNY) и Хайфский университет Израиля) нашли способ решить и её. Проект CETI строится на базе проекта «Доминиканский кашалот» канадского биолога Шейна Геро. Он уже 13 лет изучает социальную жизнь, диалекты и генетические взаимоотношения 30 семейств кашалотов (этот вид имеет самый большой мозг на Земле) на Доминикане, зная про жизнь каждой особи, семьи и всего сообщества, кто они и что делают. Ну и, помимо преодоления тупиков А и Б, куча техно наворотов.
Подробности читайте и смотрите здесь. • Научно () • Популярно (.) • Двухминутный рассказ о проекте его руководителя () • Поддержать проект донатом () • Сайт проекта ()
Приближается принципиальное изменение ИИ. Искусственный интеллект скоро превзойдёт человеческий:
В 2022 ИИ превзойдет людей в физике и в сложных игровых модельных средах (вся самая актуальная и нужная информация об ИИ в 2021 и прогнозах на 2022.) Два прогнозируемых потрясающих прорыва ИИ в следующем году: ✔️ ИИ от DeepMind совершит открытие в физике (возможно, это будет открытие в области удержания термояда). ✔️ ИИ уйдет в недосягаемый отрыв (как в шахматах и Го), соревнуясь с людьми в сложных игровых средах, моделирующих изощренные виртуальные миры.
Так считают **Натан Бенайх** и **Ян Хогарт** – серийные инвесторы в ИИ-ориентированные стартапы - 4й год подряд делающие невозможное. 4й раз они в октябре выпускают уникальный отчет о текущем состоянии дел в области ИИ такого качества (глубина проникновения в предмет, фокусировка на главное, видение за деревьями леса), что все индустриальные аналитики, консультанты и профэксперты нервно курят 😎.
188-слайдовый отчет содержит «сухой остаток» четко структурированного описания прогресса в области ИИ, уделяя особое внимание ключевым событиям последних 12 месяцев.
В завершение отчета, как и прошлые разы, даны конкретные прогнозы на грядущие 12 мес (из прошлогодних восьми сбылись пять с половиной (!)). Среди новых прогнозов, помимо двух названных, такой: ИИ-мир станет трехполярным. ✔️ Возглавляемый **Дарио Амодеи** стартап **Anthropic** (это команда звездных профи, отколовшаяся от OpenAI и привлекшая звездных инвесторов) предъявит миру свои крупномасштабные ИИ системы, что превратит Anthropic в 3-го ключевого игрока мира в области AGI.
Давать резюме прекрасно выполненной работы бессмысленно - каждый найдет здесь интересное и нужное на свой вкус.
Мне же остается, в качестве тизера, привести по одному из выводов каждого из 4-х тематических разделов отчета.
__Исследования__ - ИИ-национализм торжествует в разработке больших языковых моделей (LLM), - каждая страна хочет иметь свою суверенную LLM. __Таланты__ - Академические группы с трудом конкурируют за вычислительные ресурсы, в то время как 88 % ведущих преподавателей ИИ получают финансирование от Big Tech. __Индустрия__ - Компании, связанные с полупроводниками, значительно ускоряются по мере того, как страны стремятся к суверенитету в цепочке поставок. __Социально-политические аспекты__ - ИИ в буквальном смысле становится движком гонки вооружений: автономное оружие развертывается на поле боя, и регулярно проводятся испытания новых разработок.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок. /Сергей Карелов/
Ссылки:
Мой рассказ об отчетах 2018 (), 2019 (), 2020 (), - их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
Пользователь
Сообщений: Регистрация: 10.08.2006
04.11.2021 06:29:43
Сергей Карелов:
Non Satis Scire. Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше. Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные» [1] наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект» [2]). Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях. В результате чего: • растет интеллектуальная слепота масс; • даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
**Главный ущерб от всего этого испытывает понимание.** Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух: • либо испаряется и понимание; • либо остается ощущение **фантомного понимания**, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам» [3]. Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
[1] «Люди принимают знания Интернета за свои собственные»
[2] [«Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»
[3] «Незнание о незнании присуще не только дуракам»
Пользователь
Сообщений: Регистрация: 10.08.2006
14.11.2021 21:46:48
Относительно недавно был пройден ещё один важный этап. Уже никого не удивляло, что компьютер способен обыграть человека, но 7 декабря 2017 года алгоритм AlphaZero компании Google выиграл у Stockfish 8, чемпиона мира 2016 года среди компьютерных программ. Stockfish 8 имела доступ к опыту, накопленному человеком за сотни лет игры в шахматы, а также данным шахматных программ за несколько десятков лет. Она могла просчитывать 70 миллионов шахматных позиций в секунду. Скорость вычислений AlphaZero составляла лишь 80 тысяч операций в секунду, и создатели программы не обучили её шахматной стратегии - даже стандартным дебютам. Осваивая шахматы, программа AlphaZero использовала самые современные методы машинного обучения, играя сама с собой. Тем не менее, из ста партий, сыгранных со Stockfish 8, новичок AlphaZero выиграл 28 и свёл вничью 72. Ни одного проигрыша! Поскольку алгоритм AlphaZero не учился у человека, многие из его выигрышных ходов и стратегий выглядят весьма необычно. Их с полным основанием можно назвать творческими - если не гениальными. Угадайте, сколько времени потребовалось AlphaZero, чтобы научиться играть в шахматы, подготовиться к матчу с Stockfish 8 и развить у себя гениальную интуицию? Четыре часа. Это не опечатка. Столетиями шахматы считались одним из высших достижений человеческого разума. Программа AlphaZero за четыре часа Относительно недавно был пройден ещё один важный этап. Уже никого не удивляло, что компьютер способен обыграть человека, но 7 декабря 2017 года алгоритм AlphaZero компании Google выиграл у Stockfish 8, чемпиона мира 2016 года среди компьютерных программ. Stockfish 8 имела доступ к опыту, накопленному человеком за сотни лет игры в шахматы, а также данным шахматных программ за несколько десятков лет. Она могла просчитывать 70 миллионов шахматных позиций в секунду. Скорость вычислений AlphaZero составляла лишь 80 тысяч операций в секунду, и создатели программы не обучили её шахматной стратегии - даже стандартным дебютам. Осваивая шахматы, программа AlphaZero использовала самые современные методы машинного обучения, играя сама с собой. Тем не менее, из ста партий, сыгранных со Stockfish 8, новичок AlphaZero выиграл 28 и свёл вничью 72. Ни одного проигрыша! Поскольку алгоритм AlphaZero не учился у человека, многие из его выигрышных ходов и стратегий выглядят весьма необычно. Их с полным основанием можно назвать творческими - если не гениальными. Угадайте, сколько времени потребовалось AlphaZero, чтобы научиться играть в шахматы, подготовиться к матчу с Stockfish 8 и развить у себя гениальную интуицию? Четыре часа. Это не опечатка. Столетиями шахматы считались одним из высших достижений человеческого разума. Программа AlphaZero за четыре часа без какой бы то ни было помощи со стороны человека проделала путь от полного незнания до вершин мастерства. какой бы то ни было помощи со стороны человека проделала путь от полного незнания до вершин мастерства.
(Из Харари)
Пользователь
Сообщений: Регистрация: 10.08.2006
15.11.2021 21:06:18
И это я ещё не всё написал. На шахматных турнирах среди людей выявляют мошенников, прибегающих к помощи компьютера. Один из способов поймать нечестного игрока — отслеживать оригинальность ходов. Нестандартный ход теперь это прерогатива компьютера! То есть в шахматах оригинальность мысли есть отличительная черта уже не людей, а машин. Завтра такой же переворот возможен и в других интеллектуальных сферах.
Пользователь
Сообщений: Регистрация: 10.08.2006
11.01.2022 15:18:43
21-23 октября 2021 года состоялось Тридцатое заседание Всероссийского междисциплинарного семинара — конференции геологического и географического факультетов МГУ «Система Планета Земля», на котором Елизавета Вадимовна Хромова представила доклад «Необратимость планетарных катаклизмов, вызванных эндогенной активностью Земли». В докладе представлены исследовательские данные различных геологических, климатических процессов, происходящих на планете за последние 30 лет, которые, с одной стороны, доказывают усиление эндогенной активности, а с другой стороны, указывают на прямую связь этих процессов с происходящими на сегодняшний день катаклизмами. Указаны причины и связь таких аномальных явлений, как лесные пожары, истончение озонового слоя, ослабление магнитного поля, изменение формы Земли с усилением эндогенных процессов. Также в докладе приведены сопоставления с данными большего временного отрезка, что подтверждает циклический характер природных катаклизмов на Земле.
В рамках нашей краткой жизни изменения, начавшиеся на планете, вполне принципиальны...
Модератор
Сообщений: Регистрация: 13.06.2007
11.01.2022 23:37:40
Елизавета Вадимовна весьма активна в качестве адепта некого "Созидательного общества" и сомнительно что имеет отношение к МГУ, разве что училась там когда-то Надо бы проверить на предмет мимикрии под ученого
наш адрес: мегаскопление Ланиакея, сверхскопление Девы, скопление Местная Группа, галактика Млечный Путь, рукав Ориона, Местный Пузырь, Солнечная Система, планета Земля.
Пользователь
Сообщений: Регистрация: 10.08.2006
12.01.2022 08:15:29
Не знаю, I7pOfeT, как вы догадались про некую хейповость данной публикации (излишнюю эмоциональность, сбивчивость речи Елизаветы, как и гротескность некоторых ее формулировок можно объяснить, ну, молодостью что ли или "женственностью"), но то место, где я встретил данное сообщение, и которое, увы, не смогу уж найти, было посвящено именно осмеянию участия МГУ в антинаучных мероприятиях. В перечне лекций там есть и про лозоходство, и про влияние космоса на ковид, и многое такое.
