Решаването на проблема със зареждането на стойност е изследователско предизвикателство, достойно за някои от най-добрите математически таланти от следващото поколение. Не можем да отложим сблъскването с този проблем, докато ИИ не разработи достатъчно причини, за да разберем лесно нашите намерения.
Ник Бостром

Подобни

Не трябва да сме уверени в способността си да държим завинаги свръх интелигентен джин затворен в бутилката.
Ник Бостром

Наблюдателите в по-ранните епохи може би смятат, че е също толкова нелепо да предполагат, че световната икономика един ден ще се удвои няколко пъти в рамките на един живот. И все пак това е необикновеното състояние, което сега приемаме за обикновено.
Ник Бостром

Изглежда, че хората, вземащи решения, често играят идентичност или социална роля, а не се стремят да увеличат максимално постигането на някаква конкретна цел.
Ник Бостром

По-новите системи използват статистически техники за машинно обучение, които автоматично изграждат статистически модели от наблюдаваните модели на използване.
Ник Бостром

Нанотехнологиите се движат малко по-бързо, отколкото очаквах, виртуалната реалност малко по-бавно.
Ник Бостром

Нашата смърт може вместо това да бъде резултат от унищожаването на местообитанията, което настъпва, когато ИИ започне масивни световни строителни проекти, използвайки нанотехнологични фабрики и асемблери - строителство.
Ник Бостром

Намираме се в гъсталак със стратегическа сложност, заобиколен от гъста мъгла на несигурност.
Ник Бостром

Наблюдателите в по-ранни епохи биха могли да смятат за еднакво абсурдно да предполагат, че един ден световната икономика ще се удвои няколко пъти в рамките на един живот. И все пак това е необикновеното състояние, което сега приемаме за обикновено.
Ник Бостром

Някой малък идиот е длъжен да натисне бутона за запалване, само за да види какво ще се случи.
Ник Бостром

Вселената е студена. Забавлението е огънят, който разтапя блоковете на трудностите и създава кипящ празник на живота. Това е правото на раждане на всяко същество, право не по-малко свято за това, че е било стъпкано от началото на времето.
Ник Бостром