Ох, вы там добалуетесь! Ох, вы доизвлекаетесь...

Спросил Яндекса про недавнее крушение Боинга... Выдал он мне кучу самых разных деталей. Но захотел я ещё свои пять копеек приложить. Проблема-то не в том, что исправят софт или нет. Оно, конечно, исправят. И новые продажи Боингов продавят.

Я о том, что тут не столько ошибка софта, сколько фундаментальный путь к пониманию того, почему на самом деле здесь ответ на интуитивное предвидение фон Риттера из известного стихотворения: "Ямщик, не гони лошадей". Не мог знать он про роботов, компьютеры и программные ошибки. Но верные слова написал про будущее. Что крушение из-за ошибок софта в Боинге ещё раз и подтвердило.

Не буду я про детали этого крушения. Поисковики их немерено накидают. Хочу на лес посмотреть, а не листики на отдельных деревьях разглядывать. Потому начну от печки.

Ещё в 1992 году была опубликована весьма обстоятельная и пугающая фундаментальными выводами статья профессора В.Р. Дольника Существуют ли биологические механизмы регуляции численности людей?. Самым жестоким кажется её начало. Но это только, если до этого не был знаком с моделями Форрестера-Медоуза, полученными на их основе выводами и подтверждением прогнозов по основным параметрам на протяжении более 30 лет: Тяжёлое наследие давно прочитанной книги.

Если профессор прав, то какой там к хренам моржовым "золотой миллиард"! 200-300 миллионов по реалистичной оценке. Ибо сложно представить, что в ближайшем обозримом будущем найдётся таки экологически чистый источник неограниченной энергии.

Но в упомянутой статье всё-таки больше говорится о биологических механизмах, что вполне понятно, учитывая исследовательские приоритеты В.Р. Дольника. И огромное ему спасибо за эти пояснения. Хотя и без этого понятно, что никакая подсистема замкнутой системы не может долго расти экспоненциально. Или хотя бы линейно. Пределы есть. Другой вопрос - какие? Потому рост и населения и его потребления чем-то ограничен. А мы всё: экономический рост, экономический рост!.

Но вернёмся к началу статьи. А может искусственный интеллект как раз и есть тот самый регулятор численности? Но вопрос: а какими критериями ограничения он будет руководствоваться? Может для него это будет ноль? А ведь "интеллектуальный" софт Боинга так и считает. Даже не в том смысле, что разбить самолёт надо. А в том, что не хрен человеку вмешиваться - я сам (компьютер!) всё знаю и верные решения приму. Судя по известным мне комментариям лётчиков-профессионалов именно софт бортовых компьютеров мешал лётчикам осуществить ручное управление. А как будут считать "интеллектуальные" беспилотные автомобили или дроны? Безоговорочно соблюдать ПДД и сбивать не полностью их учитывающих пешеходов и велосипедистов?

Кто-то возразит: надо тщательнее проектировать алгоритмы и отлаживать программы. Оно, конечно, это верно. Но сказал же когда-то классик теории современных компьютерных систем профессор Эндрю Танненбаум: "Программа без ошибок есть абстрактное теоретическое понятие". За точность цитирования не ручаюсь. Но смысл именно этот.

И что? Потом уже станем прощать программам взрывы ядерных реакторов из-за того, что они запретили ручное вмешательство операторов в критических ситуациях, как в случае с Боингом?

А ведь есть ещё и тот факт, что люди уже подчиняются правилам роботов! Похоже, прав таки профессор В.Р. Дольник - найдёт Природа способ укротить Непослушное дитя биосферы. Хоть и не упомянул про этот способ в своих трудах.

Умел всё-таки чётко сказать и предвидеть великий поэт Владимир Высоцкий без нюней и дрыгоножества с рукомашеством "таинственно многозначительных" титулованных литературных криэйторов и словоблудных эквилибристов: Ох, вы там добалуетесь! Ох, вы доизвлекаетесь... Со своим искусственным интеллектом.