maxwolf: (maxwolf)
[personal profile] maxwolf





Если бы лет десять тому назад меня спросили: что я, как программист, думаю о перспективе захвата нашего мира роботами, я бы снисходительно улыбнулся, и ответил, что всё это – досужие домыслы, и именно как программист, я не вижу ни путей такого захвата, ни даже предпосылок их появления. Прошло не так уж много времени, а предпосылки и пути стали проявляться всё чаще, и всё яснее.

Вопреки широко распространённым, инспирированным масс-медиа, образам и страхам, произойдёт это не благодаря злой воле или недальновидности сумасшедшего учёного, или хищной и бесчеловечной корпорации, а благодаря естественной и постепенной замене контролируемых человеком процессов, на процессы, контролируемые искусственным интеллектом (ИИ) разной степени интеллектуальности. Причём, движение к этому закономерному финалу идёт ускоряющимися темпами с двух сторон.

Как отмечали классики ещё 150 лет назад, "за 10% прибыли капитал согласен на всякое применение". Из-за этого сверху, технологии, приносящие прибыль (или даже просто дающие на доли процента больше прибыли, чем у конкурента, в современной, отжатой до предела эффективности, экономике), внедряются безусловно, либо вообще без оценки долговременных последствий, либо игнорируя их отрицательные стороны, особенно в случае больших корпораций с размытым акционерным капиталом. Несмотря на весь прогресс в развитии технологий, человечество так и не создало эффективного и устойчивого механизма, чтобы заинтересовать владельцев капитала и их управленцев принимать во внимание отдалённые результаты своей деятельности. Развитие происходит в agile режиме: пробуем, там, где получается – пробуем дальше. Относительная дешевизна ресурсов в отрасли IT стимулирует экстенсивный путь развития – попробовать везде, где только можно, и посмотреть на результат. Где-нибудь да "выстрелит"… Теоретические и практические наработки последних лет, а также продолжающийся до сих пор экспоненциальный рост производительности вычислительных систем, уже привели к значительному расширению области применения различных интеллектуальных систем. И системы эти дают очевидное коммерческое преимущество тем, кто их использует. Таким образом, повсеместное внедрение технологий ИИ в процессы управления бизнесом, системами, устройствами – вопрос экономической целесообразности, и он будет решаться положительно просто в силу естественного хода вещей, подталкиваемый заинтересованностью всех экономических агентов.

В качестве примера - "DeepMind AI reduces Google data centre cooling bill by 40%". Казалось бы, простейшая термодинамика, бассейн с двумя трубами. В одну тепло втекает, из другой вытекает. Ан нет, и сюда всунули "DeepMind", и даже умудрились получить сорок процентов(!) экономии. Само по себе это не было бы так страшно, если бы развитие получили направления символьных вычислений и исчисление предикатов. Так или иначе, они вносят больше определенности в окружающий человека мир. Однако, именно эти области впали в анабиоз AI winter, и сейчас взрывной рост показывают нейросетевые системы (вот, недавно попался интересный сборник "The Future of Machine Intelligence. Perspectives from Leading Practitioners"), фактически заменяющие один чёрный ящик (природу, точную модель функционирования которой пока невозможно создать в силу недостаточности наших знаний о ней, или имманентной сложности предмета) на другой чёрный ящик (абстрактную модель, поведение которой на ограниченной выборке кажется нам оптимальным по ряду произвольных критериев). То, что получается, хочется охарактеризовать словом magic, однако авторы вышеупомянутого сборника, вероятно, стесняются такой характеристики. "Magic" там упоминается только один раз, хотя соответствующее ощущение сквозит везде...

Ну а снизу, люди, волею властей ограниченно образованные/грамотные, и, следовательно, просто физически не способные оценить все аспекты внедрения технически сложных устройств (даже принципов действия которых они, зачастую, не понимают) как на индивидуальном уровне, так и на уровне изменения парадигм функционирования общества, руководствуются сиюминутными прихотями и навязанными СМИ стереотипами (а массовая пропаганда стоит на службе интересов тех же самых корпораций, причём, интересы эти не какие-то абстрактно-конспирологические, а банальные меркантильные) для потребления и, соответственно, создания спроса на устройства, с одной стороны, предоставляющие более высокий уровень сервиса, или вообще привносящие его туда, где он ранее был практически невозможен, а с другой стороны - всё глубже внедряющиеся, вместе со всеми сопутствующими технологиями, в те области, в которых ранее их трудно себе было даже представить (не говоря уже про осознать различные последствия присутствия). Причём, иногда процессы распространения обуславливаются даже не потребительским характеристиками или другими, пусть субъективными, но осязаемыми причинами, а натуральным психозом, как это происходит с PokemonGo в то время, как задействованный функционал уже сейчас даёт повод самым разнообразным конспирологическим теориям.

Таким образом, люди обзаводятся очередным условным N-ным икс-фоном, потому, что "так удобнее жить", "так - круто", а корпорации "помогают" его продавать, и отдают под управление ИИ все процессы, связанные с икс-фоном потому, что "так выгоднее". На очередной, N+1 итерации, мы получим глубокий и практический полный "охват" аудитории плохо понимаемыми ("магическими") процессами ИИ.

Само-собой, такая перспектива вызывает озабоченность у многих умных людей, но пока весь выхлоп (навроде "большой красной кнопки" от гугла) настолько неадекватный, что подобные postmortem меры напоминают парадокс со всемогущим богом, которому требуется создать камень настолько тяжёлый, что он сам не сможет его поднять...


From:
Anonymous( )Anonymous This account has disabled anonymous posting.
OpenID( )OpenID You can comment on this post while signed in with an account from many other sites, once you have confirmed your email address. Sign in using OpenID.
User
Account name:
Password:
If you don't have an account you can create one now.
Subject:
HTML doesn't work in the subject.

Message:

If you are unable to use this captcha for any reason, please contact us by email at support@dreamwidth.org


 
Notice: This account is set to log the IP addresses of everyone who comments.
Links will be displayed as unclickable URLs to help prevent spam.

Profile

maxwolf: (Default)
maxwolf

July 2017

S M T W T F S
      1
234 5678
9101112131415
16171819202122
23242526272829
3031     

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Sep. 25th, 2017 01:11 pm
Powered by Dreamwidth Studios