Tuplex 是一个并行的大数据处理框架,它以编译代码的速度运行用 Python 编写的数据科学管道。Tuplex 具有与Apache Spark或Dask类似的 Python API ,但与调用 Python 解释器不同,Tuplex 为给定的管道和输入数据集生成优化的 LLVM 字节码。在底层,Tuplex 基于数据驱动编译和双模式处理,这两项关键技术使 Tuplex 能够提供与手工优化的 C++ 编写的流水线相媲美的速度。
安装
要安装 Tuplex,您可以使用适用于 Linux 的 PyPi 包,或适用于 MacOS 的 Docker 容器,这将启动预装 Tuplex 的 jupyter notebook。
Docker
docker run -p 8888:8888 tuplex/tuplex
PyPI
pip install tuplex
构建
Tuplex 适用于 MacOS 和 Linux。当前版本已在 MacOS 10.13-10.15 和 Ubuntu 18.04 和 20.04 LTS 下测试。要安装 Tuplex,只需先安装依赖项,然后构建包。
MacOS 从源代码构建
要构建 Tuplex,您首先需要其他几个可以通过 brew 轻松安装的软件包。
brew install llvm@9 boost boost-python3 aws-sdk-cpp pcre2 antlr4-cpp-runtime googletest gflags yaml-cpp celero
python3 -m pip cloudpickle numpy
python3 setup.py install
从源代码构建 Ubuntu
为了便于安装 Ubuntu 的依赖项,我们提供了两个脚本(scripts/ubuntu1804/install_reqs.sh
适用于 Ubuntu 18.04 或scripts/ubuntu2004/install_reqs.sh
Ubuntu 20.04)。要创建 Tuplex 的最新版本,只需运行
./scripts/ubuntu1804/install_reqs.sh
python3 -m pip cloudpickle numpy
python3 setup.py install