Существует распространенное мнение, что искусственный интеллект является автономной машиной обучения, и на самом деле он основан на статистике, что означает, что то, что чаще всего повторяется, должно быть правдой. Некоторые говорят, что ИИ поглощает всю ложь, обманы и теории заговора, циркулирующие в Интернете. Они опасаются, что если оставить ее полностью без присмотра, ИИ станет невероятно опасным из-за всех токсичных входных данных.
На первый взгляд это звучит разумно, но эта логика просто не складывается.
Статистика не является пропагандой
Это большой недостаток во всем этом образе мышления. Искусственный интеллект не работает на геббельсовскую пословицу, что если тысячу раз повторить ложь, она станет правдой. Когда модель ИИ анализирует данные, она изучает закономерности, отношения и связи между фрагментами информации. Не имеет значения, сколько раз конкретное предложение появлялось в Интернете. Он узнает, какие концепции и отношения лучше всего предсказывают следующую часть потока данных. Таким образом, она может даже применить правило, которое она выучила, к совершенно новой ситуации, которую она никогда раньше не видела. Пропаганда основана на манипулировании человеческими эмоциями и психологией. Машинное обучение — это совсем другая история.
Компьютеры не учатся быть плохими
Правда, искусственный интеллект может повторять ошибки, стереотипы и предрассудки в обучающих данных. Он может даже принять поведение, которое мы считаем плохим, например, манипуляции или обман, если они окажутся очень эффективным способом достижения цели. Однако это не означает, что ИИ поглощает зло или развивает зловещую личность. Компьютер не имеет морального компаса, понятия о правильном и неправильном. Он просто приходит к выводу, что конкретная выигрышная стратегия является решением.
Статистика и логика не враги
Люди иногда выступают против статистики истины и логики, рассматривая их как две противоположные силы. На самом деле, когда у нас нет полной картины, статистика является одним из основных инструментов рационального мышления. Когда врач говорит вам, что препарат работает в 80% случаев, он не внушает вам пропаганды. Он дает вам наилучшую доступную оценку. Статистика — не враг логики, это просто наш способ борьбы с неопределенностью.
Реальные проблемы с искусственным интеллектом
Реальные проблемы с ИИ совершенно разные. Системы ИИ могут повторять ошибки, скрытые в данных обучения, и часто действуют как черные ящики, что делает невероятно трудным понимание того, как они пришли к определенному решению. Тем не менее, они могут быть пугающе эффективными в достижении человеческой цели.
Возьмем систему, запрограммированную на минимизацию количества дорожно-транспортных происшествий на трассе. Может быстро прийти к выводу, что абсолютно лучшим решением является полный запрет на вождение человека. Он сделал бы это не потому, что восстал или разозлился, а просто потому, что безжалостно оптимизирует точную цель, которую ему назначили.
Реальная угроза от ИИ заключается не в том, что он научится человеческой злобе. Гораздо более актуальной проблемой является возможность того, что он станет очень умным, полностью рациональным и невероятно эффективным, но он будет преследовать цель, которая не совсем то, что мы имели в виду.
Grzegorz GPS Шиверски
]>https://X.com/gps65]>
]>https://t.me/CanalBlogeraGPS]>
![[Необходимый справочник по ИИ для предпринимателей] Неверные данные о запасах могут стоить магазину миллионы. Внедряемые системы ИИ зачастую не учитывают реалии работы магазинов. Существуют решения, позволяющие избежать этой ловушки](data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAAIAAAACCAYAAABytg0kAAAAFElEQVQYV2N8+vTpfwYGBgZGGAMAUNMHXwvOkQUAAAAASUVORK5CYII=)
