Когда говорят об опасностях искусственного интеллекта (которого, по факту, мы до сих пор так и не получили), в первую очередь нужно думать не о ядерной войне из «Терминатора» и истреблении человечества, а о простом забвении.
Технологический прогресс и без того уже оставил множество людей за бортом. Для значительной части населения почти всё, что происходит сегодня — магия: мобильные телефоны, интернет, электричество, автомобили. С каждым годом люди всё хуже понимают, как устроен мир вокруг них.
Появление нейронных сетей резко усиливает этот разрыв. И теперь он бьёт уже по самим инженерам. Больше не всегда нужно самому писать код, создавать 3D-модели, решать уравнения. С одной стороны, это ускоряет прогресс. С другой — происходит потеря знаний. Люди начинают забывать навыки, которыми раньше владели, всё чаще ленятся и перекладывают работу на нейросети.
С одной стороны, это выглядит как утрата культуры. Снижение числа инженеров, которые действительно глубоко разбираются в предмете, приведёт к закрытию целых отраслей. А те, что останутся, начнут допускать серьёзные ошибки, которые со временем станут нормой. Самолёты будут чаще падать не из-за плохих автопилотов, а из-за плохого обслуживания. Общий уровень качества почти всей производимой продукции заметно снизится.
С другой стороны, останется относительно небольшое количество носителей настоящей экспертизы. Эти люди в экономическом смысле станут практически бесценными. Нанимать и обучать таких специалистов смогут только самые крупные компании — просто потому, что у них будут соответствующие финансы. Большинство же составят те, кто с самого начала работал только с помощью нейронных сетей. Люди менее компетентные, не способные дать адекватную оценку тому, что делает машина. Зато стоимость их труда будет ниже. В результате мы получим огромное количество посредственной продукции за счёт очередного снижения себестоимости. Хотя уровень этой продукции будет хуже.
Сейчас в развивающихся странах (например, в Индии) часто размещают производство именно потому, что это дёшево. Средний уровень продукции при этом невысокий. Нейросети в этом плане дают результат ещё хуже, но компенсируют это крайне низкой стоимостью разработки.
При этом нейронные сети будут становиться всё лучше. В какой-то момент на них можно будет повесить полный цикл производства и довести систему до полутехнократического вида. Например, полностью автономную систему выращивания картофеля. Её можно масштабировать практически без ограничений, а люди будут заниматься только проектированием и планированием. Всё остальное — от посадки до сбора — будут делать машины. Более того, они смогут сами себя обслуживать и ремонтировать.
К чему приведёт такой сценарий? К перенаселению? К настоящей технократии? Скорее всего, это станет новым этапом развития человечества. И, вероятнее всего, в нём преуспеют не государства, а частные компании. Роботы Tesla, к примеру, могли бы не только работать на фабриках, но и обеспечивать людей едой — как часть миссии по заселению Марса. Причём роботы узкоспециализированные. Шаг за шагом базовый минимум потребностей можно закрыть внутри города, который Маск построил для обслуживания стартовых площадок. Получится микроутопия внутри одной частной компании.
В масштабах всей планеты такое представить сложно — слишком много разногласий, проблем и войн. Кроме того, непонятно, чем будут заниматься люди, освобождённые от работы. Вредить? А вот внутри большой частной компании, где культура относительно однородна, а средний уровень интеллекта выше среднепланетарного, это вполне реально.
Что нас ждёт в итоге? Ещё больше раскола, проблем и конфликтов. Кто-то уйдёт в забвение, кто-то построит свою технократию. И пересекаться эти две группы, скорее всего, почти не будут.
Комментарии (0)
Пока нет комментариев.