Евгений Борисов — Мифы о Spark, или Может ли пользоваться Spark обычный Java-разработчик

Тот, у кого в руке молоток, во всём видит гвоздь! Глупо? А что, если это не молоток, а универсальный инструмент, который может быть и бензопилой, и пылесосом, и зубной щёткой? В мире Big Data есть Hadoop и целый зоопарк инструментов, которые на него пашут, и каждый заточен под что-то своё. А ещё там недавно появился Spark, который можно применять для любых целей.

Если вы хотите писать в Hadoop с различных БД, стримить всякие источники в реальном времени, параллельно делать с данными какую-нибудь сложную обработку, и не при помощи каких-то батчей, скриптов и SQL-запросов, а при помощи мощного функционального языка — добро пожаловать в Spark!

Данный доклад познакомит вас со Spark: как он работает, какие задачи он способен выполнять, как им правильно пользоваться. Мы обсудим проблемы и решения, с которыми поначалу сталкиваются неопытные Spark-разработчики. Разберемся с его синтаксисом и всякими хитростями.

Будет много live coding, и в конечном итоге вы выйдете с этого доклада с достаточными знаниями, чтобы начать самостоятельно работать на Spark.