В тази книга се опитвам да разбера предизвикателството, представено от перспективата за свръхинтелект, и как бихме могли да отговорим най-добре. Това е може би най-важното и най-страшното предизвикателство, с което човечеството се е сблъсквало някога. И - независимо дали ще успеем или не - това е може би последното предизвикателство, с което някога ще се сблъскаме.
Ник Бостром

Подобни

Когато сме се насочили по грешен начин, последното, от което се нуждаем, е напредъкът.
Ник Бостром

Можем да мислим за мъдростта като способността да разбираме важните неща приблизително правилно.
Ник Бостром

Удоволствие! Няколко зрънца от тази вълшебна съставка струват повече от царско съкровище.
Ник Бостром

Дори при разнообразието от задачи и редовни празници, не е сигурно, че човекоподобният ум би могъл да живее хиляди субективни години, без да развива психологически проблеми.
Ник Бостром

Интернет е голяма полза за академичните изследвания. Изминаха дните, прекарани в прашни библиотеки, копаещи за статии в журнала. Много статии са достъпни безплатно за обществеността в списание с отворен достъп или като предпечатни на уебсайта на авторите.
Ник Бостром

По този начин първата ултраинтелигентна машина е последното изобретение, което човек трябва да направи, при условие че машината е достатъчно послушна, за да ни каже как да я държим под контрол.
Ник Бостром

Според една оценка мозъкът на възрастните съхранява около един милиард бита - няколко порядъка по-малко от смартфон от нисък клас.
Ник Бостром

Решаването на проблема със зареждането на стойност е изследователско предизвикателство, достойно за някои от най-добрите математически таланти от следващото поколение. Не можем да отложим сблъскването с този проблем, докато ИИ не разработи достатъчно причини, за да разберем лесно нашите намерения.
Ник Бостром

Не трябва да сме уверени в способността си да държим завинаги свръх интелигентен джин затворен в бутилката.
Ник Бостром

Наблюдателите в по-ранните епохи може би смятат, че е също толкова нелепо да предполагат, че световната икономика един ден ще се удвои няколко пъти в рамките на един живот. И все пак това е необикновеното състояние, което сега приемаме за обикновено.
Ник Бостром