×

Tuplex基于Python的并行大数据处理框架

消耗积分:2 | 格式:zip | 大小:70.18 MB | 2022-06-17

李丽华

分享资料个

授权协议 Apache-2.0
开发语言 C/C++
操作系统 跨平台
软件类型 开源软件
所属分类 大数据数据处理

软件简介

Tuplex 是一个并行的大数据处理框架,它以编译代码的速度运行用 Python 编写的数据科学管道。Tuplex 具有与Apache SparkDask类似的 Python API ,但与调用 Python 解释器不同,Tuplex 为给定的管道和输入数据集生成优化的 LLVM 字节码。在底层,Tuplex 基于数据驱动编译和双模式处理,这两项关键技术使 Tuplex 能够提供与手工优化的 C++ 编写的流水线相媲美的速度。

安装

要安装 Tuplex,您可以使用适用于 Linux 的 PyPi 包,或适用于 MacOS 的 Docker 容器,这将启动预装 Tuplex 的 jupyter notebook。

Docker

docker run -p 8888:8888 tuplex/tuplex

PyPI

pip install tuplex

构建

Tuplex 适用于 MacOS 和 Linux。当前版本已在 MacOS 10.13-10.15 和 Ubuntu 18.04 和 20.04 LTS 下测试。要安装 Tuplex,只需先安装依赖项,然后构建包。

MacOS 从源代码构建

要构建 Tuplex,您首先需要其他几个可以通过 brew 轻松安装的软件包。

brew install llvm@9 boost boost-python3 aws-sdk-cpp pcre2 antlr4-cpp-runtime googletest gflags yaml-cpp celero
python3 -m pip cloudpickle numpy
python3 setup.py install

从源代码构建 Ubuntu

为了便于安装 Ubuntu 的依赖项,我们提供了两个脚本(scripts/ubuntu1804/install_reqs.sh适用于 Ubuntu 18.04 或scripts/ubuntu2004/install_reqs.shUbuntu 20.04)。要创建 Tuplex 的最新版本,只需运行

./scripts/ubuntu1804/install_reqs.sh
python3 -m pip cloudpickle numpy
python3 setup.py install
 

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

评论(0)
发评论

下载排行榜

全部0条评论

快来发表一下你的评论吧 !