创建和使用外部Web表

创建和使用外部Web表

外部Web表允许Greenplum Database像处理常规数据表一样处理动态数据源。由于Web表数据可以在查询运行时更改,因此数据无法重新扫描。

CREATE EXTERNAL WEB TABLE建立一个外部表的定义。你可以定义基于命令或基于URL的外部Web表。定义形式是不同的: 不能将基于命令的和基于URL的定义混在一起。

基于命令的外部Web表

一个shell命令或者脚本的输出可定义基于命令的Web表数据。将 命令放在CREATE EXTERNAL WEB TABLEEXECUTE子句里。数据是命令运行时的最新数据。 子句EXECUTE在指定的master或segment节点上运行shell命令或脚本。命令和脚本必须存在于EXECUTE子句中定义的host上。

默认,命令会在当活跃节点上有输出的行要处理时,运行在节点上。 例如,如果每个宿主机器上运行4个有输出行待处理的节点实例, 命令会在每个宿主机器上运行4次。 可以限制运行web表命令的节点实例数量。 所有在web表定义ON子句中的节点会并行运行命令。

指定在外部表定义中的命令会从数据库运行,但不会从.bashrc.profile 中加载环境变量。 在EXECUTE子句中设置环境变量。例如:

=# CREATE EXTERNAL WEB TABLE output (output text)
    EXECUTE 'PATH=/home/gpadmin/programs; export PATH; myprogram.sh' 
    FORMAT 'TEXT';

脚本必须对于gpadmin用户是可执行的,并且在master和segment节点上路径相同。

下面命令定义了一个运行脚本的web表。 脚本运行在有数据需要处理的节点上。

=# CREATE EXTERNAL WEB TABLE log_output 
    (linenum int, message text) 
    EXECUTE '/var/load_scripts/get_log_data.sh' ON HOST 
    FORMAT 'TEXT' (DELIMITER '|');

基于URL的外部Web表

基于URL的web表从HTTP协议的服务器访问数据。 Web表数据是动态的,不可重新扫描的。

LOCATION里定义基于http://协议的web服务文件路径。 web数据文件必须存在于Greenplum节点可访问的web服务器上。 指定的URL数量与并行访问web表的节点实例数量相关。 例如,如果为一个有8个节点的Greenplum数据库指定两个外部文件, 8个节点中的两个会在查询运行时并行访问web表。

下面的例子定义了一个从多个URL获取数据的web表。

=# CREATE EXTERNAL WEB TABLE ext_expenses (name text, 
  date date, amount float4, category text, description text) 
  LOCATION ( 

  'http://intranet.company.com/expenses/sales/file.csv',
  'http://intranet.company.com/expenses/exec/file.csv',
  'http://intranet.company.com/expenses/finance/file.csv',
  'http://intranet.company.com/expenses/ops/file.csv',
  'http://intranet.company.com/expenses/marketing/file.csv',
  'http://intranet.company.com/expenses/eng/file.csv' 

   )
  FORMAT 'CSV' ( HEADER );