Всегда ли прогресс во благо или нас ожидает будущее по сценарию «Терминатора»?

На момент разговора с одним из своих друзей, программистом по образованию, я имел очень поверхностные знания о том, что представляют собой нейронные сети. Технический склад ума подсказывал мне, что это «нечто» из области программного обеспечения. Как позже оказалось, с помощью нейронных сетей компьютеры обрабатывают данные таким же способом, как и человеческий мозг: они учатся на своих ошибках и постоянно совершенствуются. Кроме этого, они могут принимать разумные решения с ограниченным участием человека. На сегодняшний день нейронные сети распространены во множестве отраслей: можно делать диагностику в медицине, финансовые прогнозы, проводить целевой маркетинг с помощью фильтрации социальных сетей и анализа поведенческих данных, осуществлять контроль соответствия требованиям качества и многое другое. Как убеждал меня мой собеседник, нейронная сеть, применительно к моей сфере деятельности, способна не только искать в интернете факты с упоминанием конкретных людей и событий, но и предоставлять результат в виде полноценной статьи или заметки.

Усомнившись в безграничных возможностях «нейронки» в качестве эксперимента я решил с ее помощью написать материал об одном из ветеранов войны, участвовавшем в освобождении Гомеля от немецко-фашистских захватчиков. Для поиска информации в качестве исходных данных использовались лишь фамилия, имя и год рождения ветерана. По заверению моего оппонента, этого было вполне достаточно для выполнения задания. Несколько минут понадобилось нейросети, чтобы выдать результат. Пробежав глазами по тексту, я поинтересовался у товарища, не смущает ли его что-либо в полученной информации? Получив отрицательный ответ, решил пояснить причину своего вопроса. Во-первых, герой войны, хотя и принимал участие в освобождении Гомеля, но, как утверждала нейронная сеть, погиб в 1943 году… под Смоленском. Как он мог там оказаться после освобождения Гомеля, было совершенно непонятно. К тому же, у меня была достоверная информация, что ветеран не только прошел всю войну, но и благополучно дожил до преклонных лет, встретив не одну годовщину Великой Победы.

Стали разбираться, оказалось, что нейронная сеть по исходным данным нашла однофамильцев с одинаковыми датами рождения, объединив информацию из нескольких источников, но по разным людям, и выдала ее в виде биографии конкретного человека. Таким образом, делающий подобный запрос и не особо вникающий в исторические факты и детали, мог бы запросто принять всё за чистую монету. А на деле – искажение действительности.

В свое оправдание друг попытался убедить меня, что нейронные сети обучаемы и постоянно дорабатываются, а в том, что был получен такой результат, мы сами виноваты, некорректно задав условия для поиска. Тем не менее, факт остается фактом.

Можно бесконечно долго спорить со сторонниками прогресса, на резонных основаниях заявляющих, что люди тоже ошибаются – человеческий фактор никто не отменял. Но лично для себя я сделал вывод: нельзя слепо полагаться на «высший разум», как бы заманчиво ни выглядела перспектива полностью переложить свою работу на искусственный интеллект. Компьютеры и прочие гаджеты, безусловно, упрощают нам жизнь, однако не стоит забывать, что и они иногда дают сбой, ведь, как известно, их создают люди!