Skip to content

Commit

Permalink
Merge branch 'staging/br_mercado_livre_oferta' of https://github.com/…
Browse files Browse the repository at this point in the history
…basedosdados/queries-basedosdados into staging/br_mercado_livre_oferta
  • Loading branch information
gabrielle-carv committed Jul 24, 2023
2 parents aa9c489 + 4e0a519 commit 14928ff
Show file tree
Hide file tree
Showing 37 changed files with 4,970 additions and 98 deletions.
6 changes: 6 additions & 0 deletions dbt_project.yml
Original file line number Diff line number Diff line change
Expand Up @@ -46,6 +46,9 @@ models:
br_anatel_banda_larga_fixa:
+materialized: table
+schema: br_anatel_banda_larga_fixa
br_anatel_telefonia_movel:
+materialized: table # Materialization type (table, view or incremental)
+schema: br_anatel_telefonia_movel
br_b3_cotacoes:
+materialized: table
+schema: br_b3_cotacoes
Expand Down Expand Up @@ -94,6 +97,9 @@ models:
br_ibge_pnadc:
+materialized: table
+schema: br_ibge_pnadc
br_inep_saeb:
+materialized: table
+schema: br_inep_saeb
br_inmet_bdmep:
+materialized: table
+schema: br_inmet_bdmep
Expand Down
2,478 changes: 2,478 additions & 0 deletions metadata.json

Large diffs are not rendered by default.

Original file line number Diff line number Diff line change
@@ -0,0 +1,9 @@
{{ config(alias='densidade_brasil', schema='br_anatel_telefonia_movel') }}

SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(densidade AS FLOAT64) densidade

FROM basedosdados-staging.br_anatel_telefonia_movel_staging.densidade_brasil AS t
WHERE DATE_DIFF(CURRENT_DATE(),DATE(SAFE_CAST(ano AS INT64),SAFE_CAST(mes AS INT64),01),month) >= 6
Original file line number Diff line number Diff line change
@@ -0,0 +1,10 @@
{{ config(alias='densidade_brasil_atualizado', schema='br_anatel_telefonia_movel',
post_hook=['REVOKE `roles/bigquery.dataViewer` ON TABLE {{ this }} FROM "specialGroup:allUsers"',
'GRANT `roles/bigquery.dataViewer` ON TABLE {{ this }} TO "group:bd-pro@basedosdados.org"']) }}

SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(densidade AS FLOAT64) densidade

FROM basedosdados-staging.br_anatel_telefonia_movel_staging.densidade_brasil AS t
Original file line number Diff line number Diff line change
@@ -0,0 +1,26 @@
{{ config(
alias='densidade_municipio',
schema='br_anatel_telefonia_movel',
materialized='table',
partition_by={
"field": "ano",
"data_type": "int64",
"range": {
"start": 2019,
"end": 2023,
"interval": 1}
},
cluster_by = ["id_municipio", "mes"],
labels = {'project_id': 'basedosdados'})
}}

SELECT

SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
REPLACE(CAST(id_municipio AS STRING), '.0', '') id_municipio,
SAFE_CAST(densidade AS FLOAT64) densidade

FROM basedosdados-staging.br_anatel_telefonia_movel_staging.densidade_municipio AS t
WHERE DATE_DIFF(CURRENT_DATE(),DATE(SAFE_CAST(ano AS INT64),SAFE_CAST(mes AS INT64),01),month) >= 6
Original file line number Diff line number Diff line change
@@ -0,0 +1,28 @@
{{ config(
alias='densidade_municipio_atualizado',
schema='br_anatel_telefonia_movel',
materialized='table',
partition_by={
"field": "ano",
"data_type": "int64",
"range": {
"start": 2019,
"end": 2023,
"interval": 1}
},
cluster_by = ["id_municipio", "mes"],
labels = {'project_id': 'basedosdados'},
post_hook=['REVOKE `roles/bigquery.dataViewer` ON TABLE {{ this }} FROM "specialGroup:allUsers"',
'GRANT `roles/bigquery.dataViewer` ON TABLE {{ this }} TO "group:bd-pro@basedosdados.org"'])
}}

SELECT

SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
REPLACE(CAST(id_municipio AS STRING), '.0', '') id_municipio,
SAFE_CAST(densidade AS FLOAT64) densidade

FROM basedosdados-staging.br_anatel_telefonia_movel_staging.densidade_municipio AS t

Original file line number Diff line number Diff line change
@@ -0,0 +1,9 @@
{{ config(alias='densidade_uf', schema='br_anatel_telefonia_movel') }}

SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
SAFE_CAST(densidade AS FLOAT64) densidade
FROM basedosdados-staging.br_anatel_telefonia_movel_staging.densidade_uf AS t
WHERE DATE_DIFF(CURRENT_DATE(),DATE(SAFE_CAST(ano AS INT64),SAFE_CAST(mes AS INT64),01),month) >= 6
Original file line number Diff line number Diff line change
@@ -0,0 +1,10 @@
{{ config(alias='densidade_uf_atualizado', schema='br_anatel_telefonia_movel',
post_hook=['REVOKE `roles/bigquery.dataViewer` ON TABLE {{ this }} FROM "specialGroup:allUsers"',
'GRANT `roles/bigquery.dataViewer` ON TABLE {{ this }} TO "group:bd-pro@basedosdados.org"']) }}

SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
SAFE_CAST(densidade AS FLOAT64) densidade
FROM basedosdados-staging.br_anatel_telefonia_movel_staging.densidade_uf AS t
Original file line number Diff line number Diff line change
@@ -0,0 +1,35 @@
{{ config(
alias='microdados',
schema='br_anatel_telefonia_movel',
materialized='table',
partition_by={
"field": "ano",
"data_type": "int64",
"range": {
"start": 2019,
"end": 2023,
"interval": 1}
},
cluster_by = ["id_municipio", "mes"],
labels = {'project_id': 'basedosdados'})
}}


SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
SAFE_CAST(ddd AS STRING) ddd,
SAFE_CAST(id_municipio AS STRING) id_municipio,
SAFE_CAST(cnpj AS STRING) cnpj,
SAFE_CAST(empresa AS STRING) empresa,
SAFE_CAST(porte_empresa AS STRING) porte_empresa,
SAFE_CAST(tecnologia AS STRING) tecnologia,
SAFE_CAST(sinal AS STRING) sinal,
SAFE_CAST(modalidade AS STRING) modalidade,
SAFE_CAST(pessoa AS STRING) pessoa,
SAFE_CAST(produto AS STRING) produto,
SAFE_CAST(acessos AS INT64) acessos

FROM basedosdados-staging.br_anatel_telefonia_movel_staging.microdados AS t
WHERE DATE_DIFF(CURRENT_DATE(),DATE(SAFE_CAST(ano AS INT64),SAFE_CAST(mes AS INT64),01),month) >= 6
Original file line number Diff line number Diff line change
@@ -0,0 +1,35 @@
{{ config(
alias='microdados_atualizado',
schema='br_anatel_telefonia_movel',
materialized='table',
partition_by={
"field": "ano",
"data_type": "int64",
"range": {
"start": 2019,
"end": 2023,
"interval": 1}
},
cluster_by = ["id_municipio", "mes"],
labels = {'project_id': 'basedosdados'},
post_hook=['REVOKE `roles/bigquery.dataViewer` ON TABLE {{ this }} FROM "specialGroup:allUsers"',
'GRANT `roles/bigquery.dataViewer` ON TABLE {{ this }} TO "group:bd-pro@basedosdados.org"'])
}}

SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
SAFE_CAST(ddd AS STRING) ddd,
SAFE_CAST(id_municipio AS STRING) id_municipio,
SAFE_CAST(cnpj AS STRING) cnpj,
SAFE_CAST(empresa AS STRING) empresa,
SAFE_CAST(porte_empresa AS STRING) porte_empresa,
SAFE_CAST(tecnologia AS STRING) tecnologia,
SAFE_CAST(sinal AS STRING) sinal,
SAFE_CAST(modalidade AS STRING) modalidade,
SAFE_CAST(pessoa AS STRING) pessoa,
SAFE_CAST(produto AS STRING) produto,
SAFE_CAST(acessos AS INT64) acessos

FROM basedosdados-staging.br_anatel_telefonia_movel_staging.microdados AS t
141 changes: 141 additions & 0 deletions models/br_anatel_telefonia_movel/schema.yml
Original file line number Diff line number Diff line change
@@ -0,0 +1,141 @@
version: 2

models:
- name: br_anatel_telefonia_movel__microdados
description: "Dados de telefonia móvel (também conhecido como Serviço Móvel Pessoal) a partir de 2019, após reformulação da coleta e divulgação de dados por parte da Anatel, que apresentam o município como menor nível de desagregação dos dados."
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: sigla_uf
description: Sigla da Unidade da Federação
- name: id_municipio
description: ID Município - IBGE 7 Dígitos
- name: ddd
description: Código de Discagem Direta a Distância
- name: cnpj
description: Cadastro Nacional de Pessoa Jurídica
- name: empresa
description: Nome da empresa
- name: porte_empresa
description: Porte da empresa
- name: tecnologia
description: Tecnologia
- name: sinal
description: Geração de Sistemas Celulares
- name: modalidade
description: Modalidade de contrato, se pré ou pós-pago
- name: pessoa
description: Contrato atrelado a Pessoa Física ou Pessoa Jurídica
- name: produto
description: Tipo de Produto
- name: acessos
description: Número total de acessos

- name: br_anatel_telefonia_movel__densidade_brasil
description: "Densidade de acessos por domicílios de Telefonia móvel no Brasil por mês e ano"
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: densidade
description: Densidade de acessos por 100 domicílios

- name: br_anatel_telefonia_movel__densidade_uf
description: "Densidade de acessos por domicílios de Telefonia móvel nos estados por mês e ano"
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: sigla_uf
description: Sigla da Unidade da Federação
- name: densidade
description: Densidade de acessos por 100 domicílios

- name: br_anatel_telefonia_movel__densidade_municipio
description: "Densidade de acessos por domicílios de Telefonia móvel nos municípios por mês e ano"
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: sigla_uf
description: Sigla da Unidade da Federação
- name: id_municipio
description: ID Município - IBGE 7 Dígitos
- name: densidade
description: Densidade de acessos por 100 domicílios


# ! modelo dbt para bd pro !

- name: br_anatel_telefonia_movel__microdados_atualizado
description: "Dados de telefonia móvel (também conhecido como Serviço Móvel Pessoal) a partir de 2019, após reformulação da coleta e divulgação de dados por parte da Anatel, que apresentam o município como menor nível de desagregação dos dados."
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: sigla_uf
description: Sigla da Unidade da Federação
- name: id_municipio
description: ID Município - IBGE 7 Dígitos
- name: ddd
description: Código de Discagem Direta a Distância
- name: cnpj
description: Cadastro Nacional de Pessoa Jurídica
- name: empresa
description: Nome da empresa
- name: porte_empresa
description: Porte da empresa
- name: tecnologia
description: Tecnologia
- name: sinal
description: Geração de Sistemas Celulares
- name: modalidade
description: Modalidade de contrato, se pré ou pós-pago
- name: pessoa
description: Contrato atrelado a Pessoa Física ou Pessoa Jurídica
- name: produto
description: Tipo de Produto
- name: acessos
description: Número total de acessos

- name: br_anatel_telefonia_movel__densidade_brasil_atualizado
description: "Densidade de acessos por domicílios de Telefonia móvel no Brasil por mês e ano"
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: densidade
description: Densidade de acessos por 100 domicílios

- name: br_anatel_telefonia_movel__densidade_uf_atualizado
description: "Densidade de acessos por domicílios de Telefonia móvel nos estados por mês e ano"
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: sigla_uf
description: Sigla da Unidade da Federação
- name: densidade
description: Densidade de acessos por 100 domicílios

- name: br_anatel_telefonia_movel__densidade_municipio_atualizado
description: "Densidade de acessos por domicílios de Telefonia móvel nos municípios por mês e ano"
columns:
- name: ano
description: Ano
- name: mes
description: Mês
- name: sigla_uf
description: Sigla da Unidade da Federação
- name: id_municipio
description: ID Município - IBGE 7 Dígitos
- name: densidade
description: Densidade de acessos por 100 domicílios
2 changes: 1 addition & 1 deletion models/br_bcb_estban/br_bcb_estban__agencia.sql
Original file line number Diff line number Diff line change
Expand Up @@ -25,5 +25,5 @@ SELECT
SAFE_CAST(id_verbete AS STRING) id_verbete,
SAFE_CAST(valor AS FLOAT64) valor
FROM basedosdados-staging.br_bcb_estban_staging.agencia AS t

WHERE DATE(CAST(ano AS INT64),CAST(mes AS INT64),1)<= DATE(2023,3,1)

31 changes: 31 additions & 0 deletions models/br_bcb_estban/br_bcb_estban__agencia_atualizado.sql
Original file line number Diff line number Diff line change
@@ -0,0 +1,31 @@
{{
config(
alias = 'agencia_atualizado',
schema='br_bcb_estban',
materialized='table',
partition_by={
"field": "ano",
"data_type": "int64",
"range": {
"start": 1987,
"end": 2023,
"interval": 1}
},
cluster_by = ["mes", "sigla_uf"],
labels = {'project_id': 'basedosdados', 'tema': 'economia'},
post_hook=['REVOKE `roles/bigquery.dataViewer` ON TABLE {{ this }} FROM "specialGroup:allUsers"',
'GRANT `roles/bigquery.dataViewer` ON TABLE {{ this }} TO "group:bd-pro@basedosdados.org"'])
}}
SELECT
SAFE_CAST(ano AS INT64) ano,
SAFE_CAST(mes AS INT64) mes,
SAFE_CAST(sigla_uf AS STRING) sigla_uf,
SAFE_CAST(id_municipio AS STRING) id_municipio,
SAFE_CAST(cnpj_basico AS STRING) cnpj_basico,
SAFE_CAST(instituicao AS STRING) instituicao,
SAFE_CAST(cnpj_agencia AS STRING) cnpj_agencia,
SAFE_CAST(id_verbete AS STRING) id_verbete,
SAFE_CAST(valor AS FLOAT64) valor
FROM basedosdados-staging.br_bcb_estban_staging.agencia AS t


3 changes: 2 additions & 1 deletion models/br_bcb_estban/br_bcb_estban__municipio.sql
Original file line number Diff line number Diff line change
Expand Up @@ -25,4 +25,5 @@ SELECT
SAFE_CAST(agencias_processadas AS INT64) agencias_processadas,
SAFE_CAST(id_verbete AS STRING) id_verbete,
SAFE_CAST(valor AS FLOAT64) valor
FROM basedosdados-staging.br_bcb_estban_staging.municipio AS t
FROM basedosdados-staging.br_bcb_estban_staging.municipio AS t
WHERE DATE(CAST(ano AS INT64),CAST(mes AS INT64),1)<= DATE(2023,3,1)
Loading

0 comments on commit 14928ff

Please sign in to comment.