Disponível para projetos

Motor ETL/ELT para Integração de Sistemas e Pipelines de Dados

Plataforma de Integração de Dados JBE. Um só motor para todas as origens e destinos.

Motor ETL/ELT desenvolvido pela JBE em Python para integração de sistemas e pipelines de dados entre origens e destinos diferentes: Amazon S3, PostgreSQL, Oracle, SQL Server, SQLite, qualquer banco SQL, SAP S/4HANA, SAP OData, SAP RFC, SharePoint e arquivos CSV, Excel ou TXT.

O problema

Por que o Plataforma de Integração de Dados JBE existe

Dados corporativos raramente ficam em um só lugar. SAP, bancos relacionais, armazenamento em nuvem, bibliotecas do SharePoint e planilhas alimentam os mesmos relatórios e processos, e cada nova conexão tende a virar mais um script isolado. Sem um motor comum, log, validação e reprocessamento funcionam de um jeito diferente em cada pipeline, e ninguém consegue afirmar com segurança o que foi carregado e quando.

A plataforma foi desenvolvida pela JBE a partir do seu trabalho de engenharia de dados em programas SAP e corporativos. Ela reúne em um só motor os conectores, padrões de carga e controles que vínhamos reconstruindo a cada projeto, para que novos pipelines comecem de uma base testada e não de um script em branco.

Feito para

  • Equipes de engenharia de dados e analytics
  • Equipes de integração SAP e ERP
  • Áreas de TI que consolidam dados de vários sistemas
  • Programas que exigem cargas de dados repetíveis e auditáveis

Em uma frase

SAP, bancos de dados, armazenamento em nuvem e arquivos conectados pelo mesmo pipeline governado.

Como funciona o fluxo

Da origem ao destino

  1. ConectarConfiguração das conexões de origem e destino: SAP, bancos de dados, Amazon S3, SharePoint ou arquivos.
  2. ExtrairLeitura dos dados em modo completo, incremental ou CDC (captura de mudanças).
  3. TransformarMapeamentos, conversão de tipos e regras de negócio em Python ou SQL.
  4. ValidarConferência de volumes, tipos de dados e regras de qualidade antes de os dados chegarem ao destino.
  5. CarregarGravação no destino com log e pontos de reinício em cada execução.

Recursos

Principais funcionalidades

Conectividade SAP

Extração do SAP S/4HANA via serviços OData e RFC, lado a lado com origens não SAP no mesmo pipeline.

Bancos de dados e SQL universal

Conectores nativos para PostgreSQL, Oracle, SQL Server e SQLite, além de um conector SQL universal para qualquer banco SQL.

Nuvem, SharePoint e arquivos

Leitura e gravação em Amazon S3, SharePoint e arquivos CSV, Excel e TXT, como origem ou destino.

Qualquer origem, qualquer destino

Origens e destinos são intercambiáveis: o mesmo motor atende integração entre sistemas, áreas de staging e camadas analíticas.

Cargas completas, incrementais e CDC

O padrão de carga é definido por pipeline, da recarga completa à captura de mudanças.

Log, validação e reinício

Cada execução é registrada, validada e pode ser retomada de onde parou, sem reprocessar o que já foi concluído.

Conecte seus sistemas a partir de uma base testada.

Conte quais origens e destinos você precisa integrar. Mostramos como a plataforma se encaixa no seu ambiente.