Empresas
Empleos
  • Sobre nosotros
  • Soluciones
    • Publicación de vacantes
      Publica tu vacante y recibe candidatos calificados en 48h.
    • Evaluación de candidatos
      500+ pruebas técnicas y psicológicas, más anti-fraude.
    • Headhunting
      Búsqueda ejecutiva a la medida de principio a fin.
    • Nómina + EOR
      Dispersión de nómina y EOR en más de 15 países de LATAM.
  • Precios
  • Empleos

0

150
Vistas
Archivos de importación UDF de flujo de datos de GCP

Estoy usando la plantilla de PubSub a Elastic Dataflow y necesito hacer algo de enriquecimiento, como el análisis de XML.

Tengo dos problemas:

  1. ¿Puedo dividir mi código en muchos archivos e importarlos usando UDF y cómo?
  2. ¿Puedo instalar bibliotecas externas? Leí que solo se admiten archivos js sin formato, pero luego leí este artículo y no estoy seguro de si se aplica a los UDF de flujo de datos o cómo implementarlo: https://medium.com/analytics-vidhya/using-npm-library-in -google-bigquery-udf-8aef01b868f4

Cualquier orientación sería apreciada.

Gracias

about 4 years ago · Santiago Trujillo
1 Respuestas
Responde la pregunta

0

Yo estaba casi allí. No estaba construyendo el archivo js único correctamente.

src/index.js

 var convert = require("xml-js"); module.exports.data_process = function (inJson) { var xml = "<XML CONTENT>"; var result1 = convert.xml2json(xml, { compact: true, spaces: 4 }); var parsed = JSON.parse(result1); var some_field = parsed.some.field var obj = JSON.parse(inJson); obj.some_field = some_field; return JSON.stringify(obj); };

webpack.config.js

 const path = require("path"); module.exports = { entry: "./src/index.ts", mode: "production", output: { filename: "main.js", path: path.resolve(__dirname, "dist"), library: "xmllib", }, };

compilar paquete web

npx webpack --config webpack.config.js

Luego agregue al final de main.js

 function process(d) { c = xmllib.data_process(d); return c; }

Ahora puede usar "proceso" como su nombre de función udf de flujo de datos.

Solución basada en este artículo: https://blog.salrashid.dev/articles/2020/bq-udf-protobuf/

about 4 years ago · Santiago Trujillo Denunciar
Responde la pregunta
Encuentra empleos remotos

¡Descubre la nueva forma de encontrar empleo!

Top de empleos
Top categorías de empleo
Empresas
Publicar vacante Precios Comercial
Legal
Términos y condiciones Política de privacidad
© 2026 PeakU Inc. All Rights Reserved.
Andres GPT
Recomiéndame algunas ofertas
Necesito ayuda