关于并行数据装载

关于并行数据装载

这一主题给出了对于Greenplum数据库数据装载特性的简短介绍。

在一个大型的、具有数T字节的数据仓库中,必须在一个相对较小的维护窗口内完成对大量数据的装载。 Greenplum支持使用其外部表特性的快速、并行数据装载。 管理员也可以用单行错误隔离模式装载外部表,这样可以把有问题的行过滤到一个单独的错误表而继续装载正确格式的行。 对于一次装载操作,管理员可以指定一个错误阈值以控制Greenplum在碰到多少不正确的行后中止装载操作。

通过结合外部表以及Greenplum数据库的并行文件服务器(gpfdist),管理员可以在他们的Greenplum数据库系统上达到最大的并行度和装载带宽。

Figure 1. 外部表使用Greenplum并行文件服务器(gpfdist)

另一个Greenplum工具gpload能运行定义在一个YAML格式控制文件中的装载任务。 在控制文件中描述了源数据位置、格式、转换要求、参与的主机、数据库目标以及其他说明,而gpload会执行装载。 这允许用户描述一个复杂的任务,并且以可控、可重复的方式来执行它。