Flux: элегантная библиотека машинного обучения | Майк Иннес | JuliaCon 2018

Flux — это новая библиотека машинного обучения, простая и интуитивно понятная в использовании, с высочайшей производительностью. Я покажу, как мы этого достигаем, используя передовые функции Julia в сочетании с современными компиляторами и языковыми технологиями, а также расскажу о интересных вещах, которые люди делают с Flux.

Содержание
00:00 Добро пожаловать!
00:31 Краткий обзор Flux.jl
01:07 Краткий обзор внутреннего устройства Flux.jl
01:30 Summer of Code с Flux.jl
01:57 Чтение ONNX-файлов с ONNX.jl
02:39 Модели распознавания изображений
02:57 Модель распознавания речи с CUDA
03:35 Демонстрация распознавания речи
04:54 Обучение с подкреплением и AlphaGo.jl
05:10 Экспорт Flux.jl в браузер с FluxJS.jl
07:03 Привет всем участникам Summer of Code
07:17 Планы на будущее: для нас МО — это проблема компилятора
07:41 Наша главная проблема компилятора: автоматическое дифференцирование (AD)
08:32 AD обычно требует деревьев выражений
09:18 Можем ли мы добиться большего? Наш ответ: Zygote.jl
11:12 Производная и внутреннее представление Julia (IR)
13:31 Сравнительный анализ более сложных примеров
14:43 Скорость, но какой ценой?
16:20 Определение пользовательских градиентов
17:54 Удобные сообщения об ошибках
18:38 У нас полностью динамическое AD
19:35 В Julia мы можем просто взламывать компиляторы, используя различные трюки, когда это необходимо
20:03 Демонстрация простой производной
21:19 Вопрос: что это за стрелка?
21:55 Вопрос и ответ: можно ли дифференцировать различные функции, которые преобразуются в число (скаляр в скаляр)?
22:09 Комментарий: удаление стека в некоторых случаях
23:14 Вопрос и ответ: каковы текущие ограничения Zygote.jl?
24:20 Вопрос и ответ: какова связь между Zygote.jl и Casset.jl? 25:15 Вопросы и ответы: можно ли использовать Zygote.jl для дифференциации функций с одним параметром и многими параметрами?

26:12 Отмена Flux.jl на хакатоне

Спасибо https://github.com/KZiemian за временные метки видео!

Хотите помочь добавить временные метки к нашим видео на YouTube, чтобы их было легче находить? Узнайте больше здесь: https://github.com/JuliaCommunity/You...

Хотите улучшить автоматически генерируемые субтитры? Примите участие здесь: https://github.com/JuliaCommunity/You...