Arthur J.

Arthur J.

Data Engineer

Brazil
Betrodd medlem siden 2022
8 år erfaring

Arthur er en lidenskapelig og resultatfokusert dataingeniør med ti års erfaring med å utvikle solide og pålitelige datapipelines og BI-dashboards, og løser problemer gjennom data for internasjonale selskaper. Han har hovedsakelig jobbet med stamdata og maskinlæring.

Han har et strategisk tankesett fokusert på å forstå kontekst, teste hypoteser, trekke konklusjoner basert på fakta og etablere en datadrevet kultur med teammedlemmer. Arthur er analytisk og velorganisert med sterk teoretisk ingeniørfag og matematisk bakgrunn, og lærer raskt nye teknologier.

Han kan spille en viktig rolle gjennom engasjementets utviklings-/støttelivssyklus for å sikre kvalitetsløsninger.

Hovedekspertise

PythonPython8 år
Data Engineering6 år
Apache SparkApache Spark6 år
ETLETL4 år
5+

Erfaring12

Python developer/Data Engineer

US-based clinical research company
Healthcare
Nov 2022 - Nov 2023 · 1y

Arthur's team was developing a POC to gather medical data from multiple partners and transform it into a research standard to make it available to their clients. In this project, Arthur built some tools to transform and ingest data using Python and Rust. They used an SQL Server as the database and started to develop scripts to run in Azure.

Thoughtworks

Dataingeniør

Thoughtworks
Information Technology (IT) and Services
Nov 2020 - Aug 2022 · 1y 9m
  • Datamigrering ved hjelp av Azure Data Factory - Databehandling ved hjelp av Apache Spark hos Databricks - Prosessautomatisering ved hjelp av Python.
Azure Data FactoryAzure Data Factory

DEN. Analytiker/dataingeniør

Grupo Pão de Açúcar
Jun 2019 - Nov 2020 · 1y 5m
  • Data ETL fra Teradata DW ved å bruke Sqoop på Hive, Impala og Apache Kudu - Databehandling med Apache Spark 2 i et Hadoop-miljø - Vedlikehold av eldre systemer med Python, Shell Script (Bash) og Java.

Data Engineer

Grupo Pão de Açúcar
Retail
Jun 2019 - Nov 2020 · 1y 5m
  • Data ETL from Teradata DW using Sqoop on Hive, Impala, and Apache Kudu. Data processing with Apache Spark 2 in a Hadoop environment. Maintenance of legacy systems using Python, Shell Script (Bash), and Java.

DEN. Analytiker/dataingeniør

Nextel (Stefanini IT Solutions contractor)
Mar 2019 - Jun 2019 · 3m
  • Last inn data fra PostgreSQL ved hjelp av Sqoop, Apache Spark 2 og Python 3 - Versjonsdata på en "øyeblikkblikkstabell" med Apache Spark 2.

Data Engineer

Nextel (Stefanini IT Solutions contractor)
Telecommunications
Mar 2019 - Jun 2019 · 3m
  • Load data from PostgreSQL using Sqoop, Apache Spark 2, and Python 3. Versioning data on a “snapshot” table with Apache Spark 2.

Data Engineer

Banco Santander (everis & BRQ contractor)
Banking and Finance
Jan 2018 - Oct 2018 · 9m
  • ETL and data processing in the Hadoop environment using Apache Spark to fill business reports
Semantix

DEN. Analytiker/dataingeniør

Semantix
Dec 2016 - Jan 2018 · 1y 1m
  • Dataanalyse ved hjelp av Hive og Impala (Cloudera-distribusjon) - Databehandling i Hadoop-miljøet - Utvikling av automatiseringsskript ved bruk av Python- og Shell-skript Resultat av IoT-engasjementer: - Sanntids batchbehandling ved hjelp av Apache Spark, Kafka og Elasticsearch.
Semantix

Data Engineer

Semantix
Digital Marketing
Dec 2016 - Jan 2018 · 1y 1m
  • Data analysis using Hive and Impala (Cloudera distribution). Data processing in the Hadoop environment. automation scripts development using Python and Shell script. Result of IoT engagements. Real-time batch processing using Apache Spark, Kafka, and Elasticsearch.

Java Developer

Stefanini IT Solutions
Information Technology (IT) and Services
Dec 2015 - Jun 2016 · 6m
  • Maintenance and development using Hibernate, Git, Maven, Tomcat 7, Oracle 10g, and JSP.
MavenMaven
HibernateHibernate
OracleOracle
TomcatTomcat

IT Analyst

CVC Viagens
Travel and Tourism
Jan 2015 - Sep 2015 · 8m
  • Project migration from SVN to Git. Processes Standardization to engagement versioning with automatization using Python and Jenkins. Creation and maintenance of automated tests with Selenium, Python, and Testlink. Automatic monitoring with Python, Selenium, and Zabbix

Java Developer

MAPS Soluções e Serviços
Information Technology (IT) and Services
Feb 2012 - Dec 2014 · 2y 10m
  • Development of mission-critical Java web systems to financial institutions, e.g. Caixa Econômica Federal, with JBoss, Wicket, Hibernate, JUnit, Selenium, continuous integration with Jenkins and Scrum as agile philosophy.
HibernateHibernate

Sertifikater 3

Semantix
Cloudera Data Analyst Training: Using Pig, Hive, and Impala with HadoopSemantix
Semantix
Cloudera Developer Training for Spark & HadoopSemantix
Semantix
Cloudera Data Analyst Training: Using Pig, Hive, and Impala with HadoopSemantix
Vil du vite mer om Arthur sertifiseringer?Avtal et møte

Utdannelse

FDT
Faculdade de Tecnologia de São Paulo
Analysis & Systems Development2022 - 2022
UFD
Universidade Federal do ABC
Data- og informasjonsvitenskap (frafall)2015 - 2019

Slutt å bla.
Bli matchet raskere.