Будущее наступило: машины судят людей

Есть такая работа – находить плохое в хорошем. Профессионально этим занимаются специалисты-безопасники, защищающие информацию различных компаний. Они смогли найти негатив даже в безусловно положительном патриотическом движении «Бессмертный полк».

Об этом и многом другом рассказали на семинаре по информационной безопасности (ИБ) приморским разработчикам и пользователям ИБ-систем представители российской Ассоциации по вопросам защиты корпоративной информации (BISA). 

Поосторожнее на поворотах!

– С первых же шествий «Бессмертного полка» участники акции стали размещать в соцсетях фотографии своих дедов и прадедов с кратким описанием их подвига или боевого пути во время Великой Отечественной. Гордость за предков понятна, я сам так же поступил. Но с точки зрения безопасности произошло массовое раскрытие кодовых слов для идентификации личности, – объясняет президент BISA Рустэм Хайретдинов. – Указывая, к примеру, фамилию деда по материнской линии, вы тем самым раскрываете девичью фамилию матери. А ведь именно ее чаще всего предлагают использовать в банках в качестве пароля. Теперь же, посетив вашу страничку в соцсетях, злоумышленники смогут использовать эту информацию при взломах. Поэтому, как только мой дед с его украинской фамилией появился в соцсетях, я тут же пошел в банк и поменял свое ключевое слово. Что и читателям «В» советую сделать. 

Главной задачей в своей работе безопасники считают притормаживание разогнавшихся цифровых технологий, чтобы общество, ими пользующееся, образно говоря, не вылетело на повороте.

– К такому стремительному развитию «цифры» общество не было готово. Мы все радостно меняли свои сотовые телефоны на более совершенные, а сейчас поголовно перешли на смартфоны. И внезапно осознали, что любые, даже интимные, фото у нас могут украсть, а персональные данные выложить в открытый доступ, – напоминает Хайретдинов. – Многие чуть ли не ежедневно заходят на сайт госуслуг, чтобы не стоять в очередях. И если вы при этом пользуетесь смартфоном, нужно быть готовым к тому, что к вашим данным может получить доступ посторонний человек. Ведь, устанавливая какую-либо новую программу, вы чаще всего не знаете о ее скрытых возможностях. 

Например, очень популярная игра Pokemon GO имела доступ практически ко всем данным мобильника. В том числе к геопозиции, фотографиям, почте и контактам. То есть производитель программы Pokemon GO получал полный контроль над вашим гаджетом. Может быть, вы и не против этого, но должны как минимум об этом знать. 

Безопасник приводит еще пример: сейчас люди путешествуют по всему миру и, бывает, становятся очевидцами боевых действий в какой-нибудь горячей точке. И тут же начинают снимать происходящее на телефон и выкладывать в Сеть. Если во время подобных селфи у вас не отключена функция геопозиции, то программа, используя датчик GPS, определит ваше местоположение и пропишет координаты в свойства фотографии. 

– Геопозиция позволит другим пользователям по координатам установить ваше точное местонахождение и даже навести ракету на указанную на снимке точку координат, – предупреждает президент BISA. – Поэтому надо понимать, что наш мир стал насколько открытым, настолько же и хрупким. Удобство победило безопасность. Никто не хочет вводить лишний раз пароль, чтобы, например, разблокировать телефон, ведь гораздо проще нажать кнопку – и все сразу откроется.

Говорите, вас слушают

Еще один пример чрезмерной открытости продемонстрировала социальная сеть Фейсбук, в которую заходят не только с компьютеров, но и со смартфонов. 

– Однажды я рассказывал своему знакомому о банковской карте «Мир». Мне она не нужна, и я не занимался ее поиском в Интернете, однако на следующий же день на своих рекламных баннерах Фейсбук услужливо предлагал мне приобрести именно эту карту. После чего я решил проверить свои подозрения. И уже намеренно стал говорить рядом с телефоном, допустим, о корме для кошек. Кошки у меня нет, поэтому я точно не стал бы искать для нее корм в Интернете. Зато несколько раз повторил фразу: «Надо купить корм для кошки». На следующий день на сайте меня ждала реклама кошачьего корма. И это не совпадение, – уверяет Рустэм Хайретдинов. – Для рекламы это, наверное, хорошо, ведь человек получает именно ту информацию, которую ищет. Но, как безопасник, я понимаю, что кто-то снимает с микрофона мой голос без моего ведома. И задаюсь вопросом: что еще этот кто-то может сделать? Живя в эпоху Интернета, нужно быть готовым к тому, что все, что вы доверили соцсетям, рано или поздно станет публичным. 

– Обратите внимание: все факты непристойного поведения Ксении Собчак всплыли сразу же, как только она заявила об участии в президентских выборах. Но не только Собчак, каждый из нас оставил много своих цифровых следов, которые легко найти в Сети, – рассказывает Олег Седов, главный редактор журнала сообщества BISA. – Теперь даже в банках, прежде чем выдать кредит, оценивают благонадежность заемщика по его поведению в соцсетях.

Цифровой след отслеживают также при проверке торгово-закупочных операций, если, к примеру, нужно проверить связи между поставщиком и покупателем. Если они лайкают (хвалят) друг друга или фотографируются вместе, то ясно, что эти люди знакомы и о честности конкурса закупок не может быть и речи.

– Специалисты по большим данным (big data) говорят: «Дайте нам 100 лайков человека, и мы будем знать о нем больше, чем его родственники. Получив 1000 лайков, мы будем знать о человеке больше, чем он сам». Большие данные можно использовать в том числе для того, чтобы предотвратить мошенничество или сговор внутри одного предприятия, – делится профессиональным секретом Рустэм Хайретдинов. – В одной компании мы наложили данные их информационной системы со всеми счетами и переводами денег на коммуникационную сеть (внутренний чат) и сразу же выяснили, что многие проплаты согласовывались и проводились задним числом, а некоторые вообще появлялись ниоткуда. 

– Чтобы предотвратить подобные нарушения, руководство компании может ужесточить меры безопасности. Но ему же это и выйдет боком, – отмечает Олег Седов. – Сотрудники решат, что их в чем-то ограничивают. А предприятия, где есть какое-либо табу, неизбежно испытывают сильнейший кадровый голод. Особенно среди молодых специалистов. Поколение миллениума, с горшка привыкшее пользоваться гаджетами, постоянно обменивается информацией о своей жизни и, болезненно реагируя на малейшие ограничения, тут же получает поддержку от сверстников. И не задумываясь увольняется из консервативной фирмы. 

Вкалывают роботы – счастлив человек?

Начиная с 1970-х годов футуристы не перестают пугать человечество неизбежной заменой человека роботами, что, по мнению фантастов, приведет к безработице и ухудшению качества нашей жизни. А что об этом думают специалисты? 

– Эта замена происходит уже давно. К примеру, с появлением компьютерных бухгалтерских программ на предприятиях резко сократилось число сотрудников отделов бухучета. Какие-то финансовые операции совершаются автоматически. Но людей заменили вовсе не роботы, а именно программы, – уточнил Рустэм Хайретдинов. – В сфере безопасности тоже легко можно заменить людей, например, операторов систем защиты. Уже сейчас программы на 70 процентов быстрее людей разбирают лог-файлы (специальные записи, в которых фиксируются события в программном обеспечении сервера, помогающие найти причину происшествий. – Прим. ред.) и обнаруживают попытки незаконных вторжений. 

Но если технически заменить человека уже не является проблемой, то возникающие юридические вопросы еще только предстоит решать. 

– Например, если ошибка, совершенная бухгалтерской программой, повлекла за собой убытки предприятия, с кого спрашивать и кому предъявлять претензии? Роботу? А вот бухгалтер-человек является материально ответственным лицом, поэтому с него можно спросить, – акцентирует Олег Седов. – То же самое с автопилотами в автомобилях. Роботы, как известно, делают меньше ошибок, чем люди. Но вот вопрос: кто будет виноват, если автопилот совершит ДТП? Кого судить? С кого требовать компенсацию? Хотя чисто технически создать, скажем, полностью автоматизированное такси при современном развитии технологий уже не составляет труда. 

За примерами, кстати, далеко ходить не надо. В период проведения ВЭФ-2017 в кампусе ДВФУ хотели запустить автобус-автомат, работающий на электричестве. Но ограничились установкой колонки для заправки электромобилей. Возможно, на следующем форуме мы все же увидим это чудо техники.

– А в таком вопросе, как наказание за превышение скорости, компьютеры уже заменили сотрудников ГАИ, судей, приставов и кассиров. То самое «письмо счастья», в котором обозначена сумма штрафа, автомобилисту выписывает робот. На квитанции есть, конечно, подпись судьи, но она ненастоящая – это факсимиле. Она нужна на тот случай, если вы решите оспаривать это обвинение. Сами же служители Фемиды на такие мелочи не отвлекаются, – рассказывает Рустэм Хайретдинов. – Я себя тоже исключил из этой цепочки, подключив автооплату штрафов через госуслуги. И теперь наказание за превышение скорости происходит полностью в автоматическом режиме: робот фиксирует нарушение, выписывает штраф, который поступает ко мне в личный кабинет, там происходит его оплата, о чем я получаю сообщение. Все! 

Как подчеркнул президент BISA, сейчас происходит автоматизация различных процессов, а не их роботизация. Массово с этим мы сталкиваемся, обращаясь в колл-центры. Автомат, уточняя, какой вопрос нас интересует, предлагает нажать соответствующую клавишу на телефоне. Порой оператору даже не приходится снимать трубку – благодаря автоинформатору клиент сам решает свой вопрос.

 
Кому, говорите, закон не писан?

– В Сколково мы пытались создать интересный стартап: компьютер оцифровал все российские законы, разбив их на графы, что позволяло увидеть, какие документы дублируют друг друга, а какие, наоборот, противоречат, создавая коллизию. Более того, программа могла облегчить работу Госдумы, депутатам нужно было бы только определиться с графами, а текст появлялся бы в автоматическом режиме. Но наш проект завернули, ведь автоматика может полностью заменить парламентариев, а этого истеблишмент допустить не может, – усмехается Хайретдинов. 

Что касается мирового опыта по автоматизации законов, то, например, в США ушлые адвокаты заказали айтишникам разработать программу-бот, которая позволяет лихачам оспаривать штрафы. Автомобилист-нарушитель просто присылает этому боту номер своего постановления о штрафе, после чего автомат начинает отписывать определенные заявления в различные инстанции. И если после этого штраф отменяют, адвокаты – владельцы сайта забирают себе половину от суммы выписанного штрафа. Но в России, к счастью, сделать подобную программу сложно: наши законы постоянно меняются, соответственно, каждый раз пришлось бы менять и алгоритм действий программы-бота…

Автор: Вадим КОЧУГОВ