Databricks: vergelijking met mijn iPhone

Samenvatting

Databricks verloor in een benchmark van een iPhone 17 Pro, behalve bij de grootste dataset waarop de telefoon competitief bleef.

Databricks versus iPhone 17 Pro

Fivetran-ceo en medeoprichter George Fraser vergeleek Databricks met zijn iPhone 17 Pro. Hij draaide de 22 TPC-H-query’s op vier schaalniveaus: 25, 50, 100 en 200 GB. Op de iPhone gebruikte hij DuckDB; op Databricks draaide hij Databricks Serverless SQL met XS-, S- en M-clusters.

DuckDB op de iPhone was sneller dan alle Databricks-clusters, behalve bij de grootste schaal. Ook daar bleef de telefoon competitief. Dat is opvallend, omdat de clusters meer rekenkracht hebben: Databricks XS, S en M beschikken over respectievelijk 24, 40 en 80 CPU-cores. De iPhone 17 Pro heeft er 6 en 12 GB geheugen.

Waarom DuckDB belangrijk is voor Databricks-kosten

Fraser wijst op twee oorzaken. De geteste datasets zijn groot voor dagelijkse bedrijfsanalyses, maar klein voor moderne CPU’s. Daardoor wegen de vaste kosten van queryplanning en compilatie zwaar. DuckDB is ontworpen om kleine query’s snel op één node uit te voeren.

Databricks gebruikt daarentegen een systeem met meerdere nodes. Bij grote JOIN- en GROUP BY-bewerkingen moet het data over nodes verdelen. Die shuffle brengt extra werk met zich mee wanneer de query op één node past. De bron noemt AWS c9-instanties met 192 Graviton5-cores als voorbeeld van de beschikbare rekenkracht.

De kosten maken het verschil zichtbaar. Databricks rekent per uur 4,20 dollar voor XS, 8,40 dollar voor S en 16,80 dollar voor M. Volgens Fraser betalen gebruikers daardoor een hoge opslag wanneer ze Databricks of Snowflake alleen gebruiken voor SQL-query’s of Python-dataframes op bedrijfsdata.

Concrete takeaway voor Databricks-gebruik

Test representatieve query’s eerst met DuckDB op één node. Past de workload daarbinnen, vergelijk dan expliciet de querytijd, shuffle en kosten met Databricks Serverless SQL voordat je een groter cluster inzet.