Технологии

29.10.2017

Иван Лизан
Россия

Иван Лизан

Публицист

Между светлым будущим и цифровым Средневековьем

На пороге digital-тоталитаризма — 2

Между светлым будущим и цифровым Средневековьем
  • Участники дискуссии:

    14
    27
  • Последняя реплика:

    больше месяца назад

 
Окончание. Начало здесь
 
 


...Каким стал цифровой мир настоящего, мы уже видим на примере триумфального шествия нейросетей и умной электроники. Однако это мир сегодняшнего дня, и куда интереснее, каким будет наше цифровое завтра.

А вот цифровое будущее будет ещё интереснее.

 



Нас ожидает тотальное использование биометрических данных: если биометрический паспорт уже стал привычным, то ближайшее будущее — использование биометрических данных в госучреждениях и на выборах (в Кыргызстане голосование со сканированием отпечатков пальцев и снимком лица уже стали реальностью).

Российское МВД, например, желает ввести всеобщую обязательную дактилоскопию (благо отмывать руки от типографской краски теперь не нужно), что позволит качественно повысить раскрываемость преступлений. В КНР же и вовсе собирают голосовые данные китайцев в одну огромную базу биометрических данных.

Только привыкли к сканерам отпечатков пальцев в смартфонах? На подходе уже биометрические замки:





И вопрос контроля этих биометрических данных — вопрос на грани между удобством и предельно безбарьерной средой и государственной безопасностью.


Разблокировка телефона с помощью губной помады и скотча:
 



Данные чем дальше, тем больше обособляются от их владельца и перемещаются на «облако». «Облачные» операционные системы, «облачные» программы и хранилища не только проникли в жизнь простых пользователей, но и затронули бизнес. 46% IT-руководителей в Великобритании заявили, что их компании переведут инфраструктуру в облако в течение ближайших шести месяцев.

С одной стороны, «облако» дешевле и надёжнее. А с другой стороны, нет никакой гарантии, что ваше «облако» лишь ваше, а не чьё-либо ещё.

Нас ожидает массовое распространение систем голосового управления и голосовых помощников — от российской Алисы до Siri и Bixby.

К слову, злоупотребление ими может привести к цифровому одиночеству:





Это же позволит довести до логического завершения системы «умного дома» (к слову, электроника для «умного дома» стремительно дешевеет), интегрировав всю электронику в единую сеть, которая будет предугадывать ваши желания и знать ваши слабости.

Гарантий тому, что данные устройства не станут вести себя, как смарт-ТВ от Samsung и LG, естественно, нет.
 


Вероятно, пользователю разрешат выбрать лишь то, куда будут перенаправлены его данные: ЦРУ, отечественному ФСБ или китайскому МГБ. А спецслужбы будут соревноваться между собой в получении разведданных с цифровых устройств, или же глобальная сеть просто расколется на несколько огромных сегментов, каждый из которых будет ограничен территорией наднационального объединения или государства (как китайский или северокорейский сегмент интернета).
 



Разница с персональным компьютером будет стираться.

Ноутбуки и ПК не уйдут в прошлое, но их потеснят смартфоны, которые будут способны подключаться к мониторам и клавиатурам. Это позволит превратить смартфон в единственный, а потому и весьма уязвимый (и желанный) источник информации о жизни. Именно в этом направлении движутся как производители мобильной техники (Samsung, Huawei), так и IT-гиганты по типу Microsoft.
 

№8. Операционные системы упрощаются, становятся предельно дружелюбными и простыми в эксплуатации для пользователя, от которого уже требуется несколько нажатий на экран или кликов мышки. В то же время программное обеспечение продолжает содержать огромное количество дыр в системах безопасности, и пользователь ничего не сможет с этим поделать — у него просто нет такой возможности, не говоря уже о специфических знаниях.
 

Миниатюризация электроники позволит массово перейти к технологии «интернета вещей», что выльется не только в обладание умной одеждой, но и в доведение систем слежения до совершенства: если сейчас ваше местоположение знает простой телефон (он же всегда с вами), то вскоре его станут фиксировать куртка со штанами.

 


Цитата:

«В будущем разведка будет использовать интернет вещей для идентификации, наблюдения, слежения, поиска и вербовки или для того, чтобы получать доступ к данным пользователя».

Директор Национальной разведки США Джеймс Клеппер.
 



И не стоит недооценивать интеллект перспективных умных штанов — они уже потенциально способны интегрироваться с нейронными сетями.

Дешевизна кремниевой электроники позволит предельно насытить транзисторами и умными компонентами всё — от холодильников, которые уже способны реагировать на голосовые команды, до автомобилей и специальных машин.

Это грозит сделать умные дома и автомобили предельно уязвимыми перед хакерскими атаками. Проблемы с безопасностью фундаментальных протоколов Wi-Fi или угон автомобиля Tesla с помощью ноутбука — уже реальность.


Как украсть Tesla




Вероятно, вскоре реальностью станут и покушения, наподобие попытки убить главного героя х/ф «Я — робот», вмешавшись в систему автопилота.
 

№9. Впрочем, это исключительно вызовы, которые вполне можно решить: в IT-сфере уже разворачивается специфическая гонка вооружений между хакерами и разработчиками, сродни соревнованию танковой брони и снаряда.
 

В будущем, похоже, пространство для анонимности будет минимальным, тогда как и без того весьма умные нейросети в перспективе переродятся в искусственный интеллект. Это позволит как построить утопическое государство, где каждый шаг будет менять карму, так и превратить мир в цифровое Варшавское гетто.
 


Справка: нравственность под присмотром машины

В Китае уже внедряют систему «социального кредита» — к 2020 году не только каждая компания, но и каждый житель материкового Китая будет отслеживаться и оцениваться этой системой в режиме реального времени. Рейтинг доверия физлиц будет привязан к внутреннему паспорту.





Обладатели высокого рейтинга будут пользоваться различными социальными и экономическими льготами. А тем, у кого рейтинг будет плохой, придется страдать — на них обрушится вся мощь административных санкций и ограничений: запрет на работу в госучреждениях, отказ в соцобеспечении, особо тщательный досмотр на таможне, запрет на занятие руководящих должностей в пищевой и фармацевтической промышленностях, отказ в авиабилетах и спальном месте в ночных поездах, отказ в местах в люксовых гостиницах и ресторанах, запрет на обучение детей в дорогих частных школах.

Рейтинги будут публиковаться в централизованной базе данных в интернете в свободном доступе.
 


 
Сложно сказать, кто у кого подсмотрел идею социального кредита — сценаристы сериала «Чёрное зеркало» или китайские власти. Данная система — следствие конфуцианской этики и развития системы «дань-ань» с личными делами на каждого гражданина. Но если ранее эти дела были бумажными, то теперь они станут цифровыми, и меры поощрения/наказания будут применяться автоматически.

Жить в таком мире «социального кредита» — сомнительное удовольствие хотя бы потому, что полного свода правил к данной системе нет и быть не может по причине невероятного разнообразия жизненных ситуаций.





В США уже тестировались алгоритмические системы предсказания рецидивизма. Первые системы прогнозирования преступлений появились в США ещё в начале 2000-х. Они были созданы для снижения количества заключённых. И за эти годы в некоторых американских штатах удалось добиться результатов. Так, за 10 лет в штате Вирджиния рост числа заключённых снизился с 31% до 5%.

Но обнаружились проблемы. Оказалось, что система, чьей задачей были непредвзятые суждения, сама оказалась подвержена предрассудкам, и самая большая проблема — объяснить машине, что такое «справедливость», ведь данная категория неразрывно связана с человеком и обществом.

Древние греки полагали, что справедливость наступит тогда, когда у каждого свободного грека будет по три раба. У рабов, естественно, были другие соображения насчёт справедливости. Национализация с позиции капитала — это несправедливо, но для государства она часто является единственным способом решения проблемы или путём обеспечения безопасности.

Впрочем, несмотря на все несовершенства, алгоритмы на базе машинного обучения уже позволяют прогнозировать и расследовать преступления. Успешные результаты недавно показал Чикаго. За 7 месяцев благодаря умным системам количество убийств в разных районах города снизилось на 33%.

Потому остаётся надеяться, что китайский социальный эксперимент провалится, в противном случае пример Китая наверняка станет крайне привлекательным для остальных стран мира, и шпионящие телефоны и телевизоры будут наименьшей из бед человечества.


Нейросети: люди уже не самые
умные существа на планете Земля





Теперь стоит понять, на что уже способны нейросети и что они смогут в ближайшем будущем.

Нейронные сети уже научились создавать классическую музыку в стиле определённого композитора, диагностировать рак и за 10 минут составлять план его лечения, создавать свои языки общения, обыгрывать профессионалов в покер.

В дальнейшем нейросети, похоже, смогут взять на себя часть функций по регулированию интернета, общества и значительно ускорить научно-технический прогресс.


Как алгоритмы Яндекса создали музыку по мотивам Скрябина:




Например, Facebook тестирует искусственный интеллект (ИИ) для принятия решений о блокировке запрещённого контента, чем позволит снизить участие человека в данном процессе.

Кроме того, нейросети и умное ПО приведёт к сокращению миллионов рабочих мест. Только в Великобритании автоматизация угрожает существованию свыше 15 млн рабочих мест.

Яркий пример: бесплатная чат-программа DoNotPay, разработанная 19-летним британским студентом, с осени 2015 года оспорила свыше 160 тысяч штрафов на общую сумму в 3 млн долларов.

 


Цитата:

«ИИ в нынешнем понимании — точно такая же технологическая волна, с которой человечество уже встречалось несколько раз за XX век. Бульдозеры на стройплощадках и компьютеры в офисах изменили и работы, и задачи, и саму суть некоторых профессий и сотворили новые. Всем пришлось привыкать. Моя бабушка была бухгалтером — она работала со счётами, а потом ей пришлось привыкать к калькулятору. Маме пришлось привыкать уже к Excel. Так что привыкать придётся и сейчас, но профессии никуда не денутся. Изменится специфика, появятся новые».

Грег Коррадо, старший научный сотрудник Google Brain Team.
 



Следовательно, для максимальной личной конкурентоспособности нужно быть не просто обычным работником, но стать лучшим.

Нейросеть может писать новости и даже написала шестую часть саги «Песнь льда и пламени» за Джона Мартина с массой неожиданных сюжетных поворотов, однако она не способна написать аналитический текст или действительно хорошую книгу (искусственное продолжение «Игры престолов» крайне далеко от настоящей литературы).




Телевизионная компания «Пик» и его звезда — ИИ Элиза Кассан из игровой вселенной Deus Ex — не такая уже и далёкая фантастика.
 


ИИ способен помочь врачу и поставить верный диагноз, затратив минимум времени, но не может придумать методику лечения неизвестной болезни.

А это уже выдвигает не столько новые, сколько забытые старые требования для системы образования.


Человечество не уйдёт от школ: рассказ «Профессия» Айзека Азимова о выпускнике школы, которому отказали в праве записи в мозг профессии металлурга, отправив его учиться в школу, где готовят управленческие и технические элиты, — это наша реальность. Тем более что тот же ИИ доказал преимущества традиционного образования с учителем перед самообучением.

Система образования не должна готовить узких специалистов и тем более потребителей (их как раз и будут заменять компьютеры и роботы), её задача — формирование человека с целостной картиной мира, которая позволит ему не потеряться в потоках информации, вовремя ориентироваться в них и при необходимости переучиваться с минимальными затратами времени и денег.
 

№10. Государству мало освоить и срастить обыденность с нейросетями и ИИ, мало и взрастить поколение творцов: по отдельности они проиграют. Важно объединить интеллектуальный потенциал человека и те способности, которыми в ближайшей перспективе будут обладать машины и компьютеры.
 

Однако это идеальный вариант развития. Куда реальнее оказаться в условиях, где нет места ни умным людям, ни интеллектуальным машинам (например, на Украине), или же попасть в среду, где автоматизация вытеснит огромное количество людей с их рабочих мест, а государство, оказавшись неспособно предоставить другую работу, включит репрессивный аппарат или обеспечит людям безусловный базовый доход.
 


К чему приведёт репрессивный подход, понятно и так — ряд стран и народов ожидает цифровое Средневековье с киберинквизицией и цифровыми гетто.
 


Безусловный базовый доход не приблизит человечество к коммунизму и не раскроет его дремлющий творческий потенциал — его способен пробудить только труд.


Ещё одна проблема — усложнение технологий

Речь идёт не столько о технологической сингулярности, сколько о деградации человека и непонимании им принципов устройства современного мира, что не только усугубляет течение кризиса научного познания, но и выводит его на качественно новый уровень.

Одновременно всё человечество может деградировать до такой степени, когда оно перестанет понимать меняющиеся технологии — не сможет, но вот в отдельных странах непонимание причинно-следственных связей может стать нормой.

В условиях крайней деградации как системы образования, так и государства, можно ожидать появления культов поклонения объектам инфраструктуры.




В фантастике один из самых ярких примеров — игровая вселенная Fallout 3 с городом Мегатонна и церковью Детей Атома, поклоняющихся неразорвавшейся атомной бомбе, а реальность может породить своих техножрецов и прихожан, которые молятся атомным реакторам.
 


Пока описанное выше выглядит крайне фантастичным, а реальность оказывается куда прозаичнее.

 


Цитата:
 
«Обучение людей религиозным нормам похоже на то, как мы учим машины: через повторение множества примеров, являющихся версиями единственной концепции, которой мы хотим научить машину. Есть сходства между ИИ и религией и в иерархической структуре понимания знаний, которые выражены в нейронных сетях. Идея научить машину учиться, а потом научить её учить (или писать ИИ) не сильно отличается от концепции достижения просветления после прохождения множества испытаний».

Винс Линч, глава компании IV.AI.
 



Тем временем бывший инженер Google Эндрю Левандовски создал религиозную организацию, члены которой поклоняются искусственному интеллекту. Так что появление конкурента сайентологии и вера в ИИ — вопрос времени.

 
* * *

Очевидно, грядущее массовое распространение нейронных сетей и умных вещей точно изменят привычный уклад нашей жизни.

1. Мир не стоит на развилке между светлым технологичным будущим или цифровым Средневековьем, просто мира как единой категории не существует.

Законы капитализма разделили мир на капиталистический центр, полупериферию и периферию. Эти же законы сделали технологическое развитие крайне неравномерным. В то время как КНР внедряет систему социального кредита, в африканской глубинке обрабатывают землю мотыгами, слушая музыку на смартфоне.

Потому единой и тотальной цифровой диктатуры не будет.

2. Государству не грозит поражение от корпораций: они скорее продолжат существовать в симбиозе, чем станут антагонистами.

Развитие электроники и превращение IT-корпораций в отдельных сотрудников спецслужб ­являются доказательством этого тезиса. До тех пор, пока у государства остаётся монополия на насилие, никакой цифровой корпоративной диктатуры не будет.

Потому хоронить государство очень рано — ему нет альтернативы, особенно в нарождающемся столетии Китая с его госкорпорациями.

3. Внедрение локальной цифровой диктатуры — вопрос не злой воли безумных правителей, а политической и технологической безопасности. Обеспечение тотальной слежки за гражданами — дело весьма затратное и не всегда необходимое.

Пример Украины показывает, что построить диктатуру можно и в условиях неофеодализма. Однако если перед чиновниками поставят соответствующую цель, то создать цифровую инквизицию не составит труда: для её внедрения нужны тотальная информатизация населения, внедрение интернета вещей, умных домов и ещё несколько шагов в развитии нейросетей, которые будут обрабатывать массивы данных.

Цифровые системы контроля за гражданами станут обыденностью для любого более-менее развитого государства, и режим контроля будет ужесточаться в периоды смуты, тогда как в мирные и безопасные времена цифровые «гайки» будут слегка откручивать.

4. Научно-технический прогресс актуализирует проблему не только информационной безопасности, обеспечение которой станет важнейшей задачей для государства, но и соответствия граждан новым технологиям.

Мир вплотную подошёл к новому витку автоматизации производства: если раньше луддиты громили ткацкие станки, то теперь таксисты протестуют против «Uber» и «Яндекс. Такси», а в уже ближайшем будущем стоит ожидать протестов бухгалтеров против ПО с нейросетями или бунта юристов/журналистов против ботов, способных делать ту же работу, но за секунды.

Если первая волна автоматизации производства потеснила позиции человека в низкоквалифицированном труде, построив на месте мануфактур фабрики с конвейерами, то вторая волна позволит заменить работников умственного труда искусственным интеллектом.

В XXI веке технических специалистов будут теснить роботы, а работников умственного труда — нейросети.

5. Наступление машин на сферу физического и умственного труда приведёт к необходимости переучивания большого количества специалистов и гибели целых профессий.

Вопрос не в том, произойдёт это или нет. Вопрос в том, каковы будут масштабы этого процесса и как государство решит эту задачу.

И вариантов решения множество: можно переучить условных бухгалтеров на официантов, что раздует сферу услуг, направить их в производственный сектор или сохранить им работу, взяв на государственную службу.

Как именно с этой задачей справятся в Союзном государстве, покажет время, однако судя по тому, как растёт бумажный документооборот в информационную эпоху, которая должна была избавить учреждения от тысяч листов макулатуры, ответ напрашивается сам собой.

6. Наибольшей конкурентоспособностью в мире будущего будут обладать страны, чьё руководство сможет объединить интеллектуальный потенциал человека и машины, а для этого нужно, как ни странно, отказаться от обучения граждан как потребителей и вернуться к системе образования, которая позволит сформировать человеку целостную и непротиворечивую картину мира.

В противном случае велик риск локальной технологической сингулярности и распространения различных технорелигий и сект.
 


7. От того, как государство разрешит проблему обеспечения граждан рабочими местами, и зависит вероятность введения тотальной цифровой диктатуры.

Чем выше уровень недовольства населения властью и экономической обстановкой, тем больше соблазн не исправлять ситуацию, а задействовать репрессивный аппарат.

Другой вариант сохранения безопасности — обеспечение безусловного гарантированного дохода, однако как в таком случае социализировать человека — неясно.
 

 

Подписаться на RSS рассылку
Наверх
В начало дискуссии

Еще по теме

Иван Лизан
Россия

Иван Лизан

Публицист

На пороге digital-тоталитаризма

Почему свобода интернета — миф

Юрий Алексеев
Латвия

Юрий Алексеев

Председатель.LV

Почувствуйте себя идиотами

Потренируйтесь

Петр Петровский
Беларусь

Петр Петровский

Философ, историк идей

По фейкам ботать

Как научиться отличать правду от вымысла и уберечься от троллинга

Иван Лизан
Россия

Иван Лизан

Публицист

Экономика интернета

Как мы ежедневно трудимся на благо IT-корпораций

Характер современного капитализма в мире и в Латвии

поп культура как и любой entertainment для масс появилась и стала востребованной когда благосостояние масс (благодаря прогрессу) выросло. Появились выходные, излишки средств, необх

Эмиграция оправдана только в одном случае

Вот, я и удивляюсь. Насколько я знаю про Европу и Сев.Америку, там одиноким очень даже помогают, вообще, все карты в руки. И квартиру оплатят, и учебу. Учебу, правда, в кредит, н

Принимая во внимание исторические обстоятельства...

Зачем русским детям учиться на латышском ? Вы как вчера с пальмы слезли, и ничего короме пассажиров автобуса в жизни не видели. Ах, да, посуду в раковину в ЮК.Вам же неизвестно, ч

ГДР: «мрачное царство» штази или социализм с немецким лицом?

Вы отлично понимаете, что ничего общего с Мальтой наше прошлое и прошлое восточных немцев не имеет.

Как Никита Хрущёв перевоспитывал латышских националистов

Скорее поддержана латышской компартией  ..======== С моей колокольни выглядит несколько не так.Насколько я читал, Калнберзин и Лацис (который Вилис) доброжелательно отоси

Мы используем cookies-файлы, чтобы улучшить работу сайта и Ваше взаимодействие с ним. Если Вы продолжаете использовать этот сайт, вы даете IMHOCLUB разрешение на сбор и хранение cookies-файлов на вашем устройстве.