AI Safety: ще оцелее ли човечеството в ерата на изкуствения интелект | Виктор Сендеров [Agent 001]

В този епизод Кив и Тулечки си говорят с Виктор Сендеров – биоинформатик, изследовател и експерт по вероятностни програмни езици, който днес се занимава с архитектура на данни в Graphwise. Темата е сериозна: безопасността на изкуствения интелект и рискът от AGI – онзи хипотетичен суперинтелект, който може да надмине човека не само в мисленето, но и в целеполагането.

Говорим за „големия разлом“ в AI света – алармистите, които предупреждават, че AGI може да унищожи човечеството, срещу ускорителите, които вярват, че развитието му е неизбежно и дори желано. Разглеждаме идеите на фигури като Юдковски, Бострьом, Хинтън, Бенджио и Алтман – и питаме: спорят ли те за целите или просто за това колко бързо да вървим към тях?

Във втората част влизаме в дълбоките води на рисковете – от грешно подравняване и злоупотреба до системна нестабилност. Обсъждаме защо фразата „ако някой го построи, всички умираме“ не е просто драматична, а логическо следствие от определен тип интелект. И питаме: какви са бавните, невидими опасности на AI – тези, които няма да ни унищожат за ден, но могат да подкопаят обществото ни отвътре?

Накрая търсим изхода – от научната дипломация и управлението на риска, през нови подходи като невросимволичен AI и вероятностно програмиране, до идеята за „достоен наследник“ – интелект, на когото бихме поверили бъдещето.

Ще чуете дали според Виктор изобщо можем да контролираме изкуствения интелект – или просто трябва да се научим да живеем с нещо по-умно от нас.

Споменато в епизода #links
Books
If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All: Eliezer Yudkowski
Qualityland: Kling, Marc-Uwe -- Качестволандия (БГ): https://www.amazon.com/Anyone-Builds-...
The Singularity Is Nearer: Ray Kurzweil: https://www.colibri.bg/en/shop/marc-u...

Scientific papers
International AI Safety Report: https://internationalaisafetyreport.org/
MIT Open Access Articles Picture: A Probabilistic Programming Language for Scene Perception: https://dspace.mit.edu/bitstream/hand...

Fun videos:
Car Computer Confused by Carriage || ViralHog - YouTube:    • Car Computer Confused by Carriage || ViralHog  

За подкаста #about #podcast
Партньори са Grapwise.ai (graphwise.ai/) И Данни за добро (data-for-good.bg/)
Автор на музиката на подкаста е Мишо: www.mihailivanovbass.com/

„Агент 001“ изследва пресечните точки на технологиите и обществото, на дигиталното и реалното, на нещата и данните за тях. Това е една от шестте серии на Ratio Podcast – подкаст за любопитни хора. С негова помощ ще навлезете в света на Изкуствения интелект и технологиите и ще чуете неформални разговори с интересни събеседници, свързани или вдъхновени от науката и AI. Партньор на подкаста е Graphwise, компания, която развива технологии, с които данните придобиват смисъл. Подкастът се реализира и с подкрепата на Данни за добро.