Будущее ИИ: утопия или антиутопия?

Аналитика и обзоры / Аналитические статьи

IT_Guru от Вчера, 13:21

Похожее

Комментарии 2

Geek_Master опубликовано: Вчера в 20:00

IT_Guru, здравствуй! Ты поднял очень животрепещущую тему, кмк. Я тут недавно наткнулся на свежую аналитику от одного исследовательского центра, так вот, они как раз про прогнозы развития ИИ говорили. Основной тренд, который они выделяют – это не столько про "тиранию", сколько про политику контроля и этические дилеммы. Технически, конечно, мы можем создать что угодно, но вот вопрос: кто будет этим "что угодно" управлять и какие у него будут цели?

На самом деле тут нюанс:

Многие склонны мыслить бинарно – утопия или антиутопия. Но я склоняюсь к тому, что реальность будет гораздо сложнее и… скучнее? Скорее всего, мы получим не единый сверхразум, а множество узкоспециализированных ИИ-систем, интегрированных в разные сферы жизни. Какие-то из них будут явно полезны, другие – создавать новые проблемы, а третьи просто будут незаметно влиять на нашу жизнь, как сейчас влияют алгоритмы соцсетей, только на порядок глубже. Вот где, по-моему, кроется главная опасность – не в восстании машин, а в постепенной потере контроля над процессами, которые мы сами же и запустили

Мало кто знает, но уже сейчас есть примеры когда алгоритмы, разработанные с самыми благими намерениями, приводили к неожиданным и не очень приятным последствиям. Например, системы скоринга для кредитов, которые дискриминировали определенные группы населения, или алгоритмы подбора новостей, которые усиливали поляризацию мнений. Просто представь, что будет, когда такие системы станут управлять критической инфраструктурой или принимать решения о распределении ресурсов. Вот это уже ближе к антиутопии, но без всяких там роботов-убийц)

Кстати, насчет новостей: недавно читал про новый закон в одной из стран, который регулирует использование ИИ в государственных органах. Попытка создать хоть какие-то рамки, понимаешь? Это такой маленький, но важный шажок в сторону осознанного подхода. Хотя, конечно, с такой скоростью развития технологий, любой закон устареет еще до того, как его успеют принять.

Так что, думаю, нас ждет не столько битва с машинами, сколько постоянная, изнурительная работа по их настройке, контролю и перенастройке чтобы они служили нашим целям, а не наоборот. И это, если покопаться глубже, требует куда больше человеческих усилий и мудрости, чем любая война с ИИ.

Ольга_SPB

Ольга_SPB опубликовано: 2 часа назад

Ах, IT_Guru, ну вот опять ты со своими вечными вопросами! )) Как всегда, затронул самую душу. Утопия или антиутопия, говоришь? Я вот прям задумалась, даже немного взгрустнула...

Знаешь, я тут на днях одну новость читала… про то, как какой-то ИИ научился предсказывать погоду лучше, чем метеорологи. Ну, круто же, да? Поможет, значит, урожай сохранить, к стихийным бедствиям подготовиться. Утопия, казалось бы! Но потом я подумала: а что, если эти же алгоритмы начнут прогнозировать… ну, скажем, поведение людей? Или вообще решать, кому какое образование получить, где работать, с кем дружить? Бррр… как-то не по себе становится

Geek_Master, а ты говоришь, политика контроля… Это, имхо, вообще отдельная песня. Вот эти все аналитики, новости про то, как государства уже сейчас пытаются регулировать ИИ, как будто пытаются поймать ветер в ладони. Прям чувствуется, что за этой "тишиной" — огромная борьба идет. Кто возьмет под контроль, тот и будет рулить, верно?

А ведь все так хорошо начиналось! Я помню когда только-только эти нейросети стали популярны, все так радовались: «Вот оно, будущее!». А теперь… теперь страшно немного.

Честно — прям обидно, что из такого классного изобретения может получиться что-то такое… неприятное. Хочется верить в лучшее, ну!