smth Flashcards
Война — это когда за интересы других гибнут совершенно безвинные люди.
Уинстон Черчилль
Проблема ИИ как gpt4
Это не алгоритм ,который пишет человек,а громная матрица с кучей “весов” и связей между ними,которые нейросеть настраивает сама .
По сути это черный ящик,мы знаем,что подаем навход и видим результат
ИИ не будет учитывать наши желания при манипуляции с реальностью и достижению поставленной цели
Проблема в промежуточных целях, которые она выставляет сама
(проблема согласования)
Что такое инструментальная конвергенция?
ИИ с безвредными целями, для их достижения может действовать удивительно вредными способами
Швейцарский филосов Парацельс сказал
Все есть яд и все есть лекарство, то и другое определяет доза
Антропоморфи́зм
перенесение человеческого образа и его свойств на неодушевлённые предметы и животных, растения, природные явления, сверхъестественных существ, абстрактные понятия и др. Это мировоззренческая концепция, выраженная номинативными средствами языка, изобразительных искусств и т. п.
Каждый раз когда мы что-то вспоминаем
Мы вспоминаем не то конкретное событие ,а то,когда мы последний раз это вспоминали