Pig:一个类中有多个UDF

时间:2016-03-28 10:16:58

标签: hadoop apache-pig udf

我想定义多个Pig UDF。它们中的每一个都将提取数据的不同部分。在我的例子中,数据是具有复杂结构的JSON文档,包括许多嵌套的JSON对象。

问题是,现在我已经为我需要的每个函数创建了一个不同的Eval类。这些类中的每一个都实现了exec()。 有没有办法将所有函数放到同一个UDF类并从猪中调用它们?

我的一个UDF示例:

public class PigGetTimestamps extends EvalFunc<Tuple>{
  public Tuple exec(org.apache.pig.data.Tuple input) throws IOException {        

    if (input == null || input.size() == 0 ){
        return null;
    }

    try {

        String inputString = DataType.toString(input.get(0));
        try
        {
            String[] tokens=inputString.split("\t");
            if (tokens.length<1)
                return null;
            Document document=new Document(tokens[0], true, false);
            long timestamp_fetch=document.getTimestamp_fetch();
            long timestamp_pub=document.getTimestampPub();
            Tuple output = TupleFactory.getInstance().newTuple(2);
            output.set(0,timestamp_pub);
            output.set(1,timestamp_fetch);
            return output;
        }
        catch(Exception e)
        {
            return null;
        }

    } catch (Exception e) {   
        System.out.println("Can't extract field; error = " + e.getMessage());
        return null;
    }        
}  

1 个答案:

答案 0 :(得分:0)

您可以使用同一个类,创建它的几个实例 - 在构造函数中,您将说明它将执行的功能

因此,在您的猪中,您将定义不同的实例:

define udf1 my.package.udf.MultiFunc('1');
define udf2 my.package.udf.MultiFunc('2');

你的UDF类看起来像:

    public class MultiFunc  extends EvalFunc<String> {

        private String operation;
        public MultiFunc(String operation){
            this.data = operation;

        }

        @Override
        public String exec(Tuple tuple) throws IOException {
        switch (operation){
            case "+":
                //your code here;
                break;

            case "-":
                //your code here;
                break;

            break;

        }        
}