Alternatywą platformy Databricks jest uruchomienie kodu lokalnie, np. wykorzystując mechanizmy Dev Containers w VSCode.
Spark + Jupyter Notebook
https://github.com/jplane/pyspark-devcontainer
input.txt
spark_ui.ipynb