Migrar as tabelas de “look up" (map[int]string
) para o Badger (armazenamento de chave e valor)
#197
Closed
2 of 7 tasks
No ETL (comando
transform
) utilizamos algunsmap[int]string
para mapear coisas como código do município para nome do muncicípio, por exemplo.Depois da implementação do Badger como cache durante o ETL (#173), o mesmo Badger pode ser utilizado para essas tabelas de código e nome de município, CNAE, países etc. Em termos de performance não deve ter um impacto grande (as consultas podem ser feitas em paralelo, pois são read-only, as escritas são poucas), e o código pode ser muito implificado.
Possível estratégia de implementação:
newKVItem
para suporte de novossourceTypes
enrichCompany
para suporte dos novos camposnewKVitem
para criar e, depois, salvar os dados das tabelas de look up no Badger no início do ETLRepetir o processo para:
motives
Move tabela de look-up
motives
para o Badger #217cities
Move tabela de look-up
cities
para o Badger #218countries
cnaes
qualifications
natures
ibge
The text was updated successfully, but these errors were encountered: