Эпоха бредовой формализации. Комбинаторный взрыв 10.4Kсб, 26/06/2021 - 17:25 | IvanTamerlan (9 лет 7 месяцев) В очередной раз на АШ встретилась фраза "нужно вначале все формализовать". И говорят, вроде бы, умные дядьки. Попытаюсь вкраце описать в чем бредовость всеобщей формализации, над которой бьются веками все ученые. Возьму для сравнения число атомов во Вселенной. По разным оценкам это от 10^78 до 10^82 атомов. Разброс в 10 тыс.раз. Возьму за основу величину 10^80. Выгляди это оценочное число так: 100 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000. Если вы будете пересчитывать каждый атом и тратить на это ровно 1 секунду без расходов на сон, еду и т.д., то при средней продолжительности в 70 лет у вас будет всего лишь 2 209 032 000 секунд. Всего лишь каких-то жалких 2 миллиарда секунд. Ладно. Давайте вам упростим задачу -- дадим возможность пересчитывать каждый атом Вселенной за время жизни этой самой Вселенной. Время жизни Вселенной 13.8 млрд лет. В секундах: 435 494 880 000 000 000 секунд. Даже увеличение скорости в 1 млн раз вас не спасет. Длины чисел до сих пор несопоставимы. Атомов во Вселенной все равно больше. Возьмем самый мощный компьютер с его 1,88 * 10^18 операций в секунду. 818 730 374 400 000 000 000 000 000 операций за все время жизни Вселенной. Сравните с первым числом и убедитесь, что это число до сих пор слишком маленькое. Теперь упростим реальную жизнь на порядки. И возьмем за основу какую-нибудь простенькую игру. Предположим, что выигрывая в эту игру вы получаете ресурсы, а проигрывая -- теряете. Правила игры заменят фундаментальные законы физики, химии и т.д. В качестве такой игры я выбираю обычную игру Го. Поле 17х17 линий. Ее правила станут заменителями физики и химии. Теперь попытаемся написать по нему Уголовный Кодекс. Который будет запрещать игроку делать такие ходы, которые ведут к проигрышу. Всего допустимых ходов по правилам Го: 10^171. Или: 1000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000. На самом деле я ошибся где-то в 10 раз, но один нолик тут роли не так много играет. Сами видите -- число возможных комбинаций здесь больше, чем атомов во Вселенной! Часть этих ходов ведут к выигрышу, часть -- к проигрышу. Теперь возьмем наш суперкомпьютер и пусть он не просто выполняет 1 операцию в секунду, а описывает один ход в секунду! За все время жизни Вселенной он успеет описать всего лишь столько ходов: 818 730 374 400 000 000 000 000 000 Был еще один тезис: каждые 18-36 месяцев количество транзисторов увеличивается в два раза! Т.е. растет производительность и т.д. Правда, производительность растет всего лишь на 10-50% процентов, но то другое, понимать надо. Ладно, ладно, сделаю скидку и с барского плеча разрешу увеличивать производительность каждый год в 2 раза! log2(10^171 / 818 730 374 400 000 000 000 000 000) = 478 Числа после запятой я убрал. И посчитал, что суперкомпьютер будет обрабатывать не 1 операцию в секунду, а 1 ход в секунду. Хотя в реальности 1 ход будет обрабатываться за несколько операций. Формализовать = написать инструкцию. И тут 1 ход будет обрабатываться уже гораздо дольше! Даже на простое развитие технологий потребуется 478 лет! Причем с учетом скорости увеличение производительности в 2 раза каждый год! Предположим, что 478 лет прошло и мы смогли формализовать каждый ход! А теперь, внезапно, другой вопрос -- а как ориентироваться в этих инструкциях? Их же 10^171 инструкций! И большую часть нужно выучить! Насколько это сложно? Ну, можете выучить Библию с ее 2 672 374 знаками в русском синоидальном переводе. Потом еще Коран с его 1 015 030 точек и 323 670 буквами. Заметьте, тут не ИЛИ-ИЛИ, а И! И все равно мало по сравнению с числом атомов во Вселенной, а ведь нужно учить на порядки больше информации! Удивлены объемами? Я специально написал -- "а давайте упростим до игры Го". Если в игре Го разрешенных ходов всего лишь 10^171, то в реальной жизни количество допустимых комбинаций очень быстро преодолеет и эту отметку! Я вам показал что такое комбинаторный взрыв. Чем больше факторов, тем больше комбинаций получаем в итоге. Это для тех, кто хочет инструкции на все случаи жизни. Формализовать все. Сами видите, к какому идиотизму можно придти с такими стараниями. Но люди упорно пытаются идти, занимаясь формализмом. Кто-то скажет -- ладно, хорошо, убедил. Давай-ка сделаем ИИ, который будет водить по дорогам. Всего лишь нужно описать все возможные ситуации, которые случаются на дорогах и ИИ готов! Хорошо, скажу я, давайте. Заменяем дорогу на игру Го и получаем 10^171 возможных ситуаций... Причем в реальности количество ситуаций будет расти с ростом количества факторов! Но ведь человеческий мозг... Фишка в том, что мозг в принципе не старадет такой хренью, как формализация всего и вся. У него устройство намного проше: Отметить что было сделано и отметить к какому результату это привело. Результатом считается влияние на организм -- положительное, отрицательное или нейтральное, а также сила этого воздействия. Например, боль, сытость и т.д. Далее происходит абстракция, т.е. выделение совпадений действий, которые привели к одному типа результата. Различия считаются шумом и и могут быть отброшены как незначащие. В дальнейшем мозг оперирует целыми комплексами различных действий. Те, кто водит машину больше года -- вы задумываетесь о порядке посадки в машину, порядке включения и т.д.? Нет, просто все отработано до автоматизма. Это тот самый комплекс действий и он однотипен. Причем учитывается все, даже сила нажатия клавиш, твердость кожи и т.д. Именно поэтому если вы всю жизнь проездили на одной машине, то вам будет неудобно в другой. Или пользовались айфоном, а потом стали пользоваться андроидом. Мозг уже выработал комплексы действий и теперь в новой среде ему непривычно. Но если вы меняли машины очень часто, то различия в управлении между разными машинами стали "незначительным шумом". Кластеризация таких действий и их хранение -- это тема для отдельной лекции. Но благодаря этому можно создавать ИИ, близкий к реальному и даже создавать ИИ для государства. Т.е. нет комбинаторного взрыва. Лишь один вопрос: - мои дейстия привели к положительному или отрицательному результату? И дальше в зависимости от того, что считать положительным и отрицательным результатом, можно получить либо Скайнет, либо некий СверхИИ, который будет заботиться о всех людях. Никто не запрещает разбить ИИ на несколько ИИ с разными функциями -- контролирующая, исполняющая, фантазирующая и т.д. Причем разбиение должно быть обязательно. Если что -- для человеческого интеллекта достаточно и одной микроколонки. Если что -- у человека их около 200 млн. Просто человек с одной микроколонкой должен будет жить в 200 миллионов раз медленнее. И за 70 реальных лет человек с одной микроколонкой в голове сможет прожить всего лишь 11 секунд осознанной деятельности. Причем 11 секунд включают время на обучение! Соответственно, в рамках государства один ИИ за 70 лет жизни позволит прожить около 11 секунд осознанной деятельности на уровне человека. При соблюдении предыдущего условия про 200 млн микроколонок. Мы не замечаем рост ногтей, т.к. ногти растут примерно со скорость 1мм/неделя. Мы можем увидеть только результаты этой деятельности. А много ли мы увидим на организме, который за 70 лет сможет прожить только 11 секунд? Это 1,1 секунда на каждые 7 лет. Причем не мгновенной и наблюдаемой как откровение раз в 7 лет, а растянутой во времени на эти 7 лет. Только описание проблемы у вас может занять больше времени, чем 11 секунд. Авторство: Авторская работа / переводикаКомментарий автора: Учитывая все выше сказанное -- ИИ общего назначения с сопоставимым интеллектом на уровне человеческого можно создавать хоть сейчас. И он будет таким же изворотливым как человек и даже несколько ленивым. И это тема тоже для отдельной истории... @Публицистика и обсуждения#Мнение#Прогнозы @Физическая экономика#IT-технологии#Наука#Новая темная эра уже рядом! @Лидеры обсуждений#Перспективный чат#Хороший, годный чат