Arthur J.

Arthur J.

Data Engineer

Brazil
Vertrouwd lid sinds 2022
8 jaar ervaring

Arthur is een gepassioneerde en resultaatgerichte Data engineer met tien jaar ervaring in de ontwikkeling van robuuste en betrouwbare data pipelines en BI dashboards en in het oplossen van problemen via data voor internationale bedrijven. Hij heeft voornamelijk gewerkt met Big data en Machine learning.

Hij heeft een strategische mindset, toegespitst op het begrijpen van de context, testen van hypotheses, conclusies trekken op basis van de feiten en een datagestuurde cultuur vast te leggen met de teamleden. Arthur is analytisch en goed georganiseerd, met een stevige theoretisch technische en wiskundige achtergrond waardoor hij nieuwe technologieën snel onder de knie krijgt.

Hij kan een essentiële rol vervullen tijdens de volledige ontwikkeling van de opdracht/ondersteuning van de levenscyclus om hoogwaardige oplossingen te garanderen.

Hoofd expertise

PythonPython8 jaar
Data Engineering6 jaar
Apache SparkApache Spark6 jaar
ETLETL4 jaar
5+

Ervaring12

Python developer/Data Engineer

US-based clinical research company
Healthcare
Nov 2022 - Nov 2023 · 1y

Arthur's team was developing a POC to gather medical data from multiple partners and transform it into a research standard to make it available to their clients. In this project, Arthur built some tools to transform and ingest data using Python and Rust. They used an SQL Server as the database and started to develop scripts to run in Azure.

Thoughtworks

Gegevens ingenieur

Thoughtworks
Information Technology (IT) and Services
Nov 2020 - Aug 2022 · 1y 9m
  • Datamigratie met behulp van Azure Data Factory. Dataverwerking met behulp van Apache Spark bij Databricks. Automatisering verwerken met behulp van Python.
Azure Data FactoryAzure Data Factory

HET. Analist/data-engineer

Grupo Pão de Açúcar
Jun 2019 - Nov 2020 · 1y 5m
  • Data ETL van Teradata DW met behulp van Sqoop op Hive, Impala en Apache Kudu. Dataverwerking met Apache Spark 2 in een Hadoop omgeving. Onderhoud van verouderde systemen met behulp van Python, Shell Script (Bash) en Java.

Data Engineer

Grupo Pão de Açúcar
Retail
Jun 2019 - Nov 2020 · 1y 5m
  • Data ETL from Teradata DW using Sqoop on Hive, Impala, and Apache Kudu. Data processing with Apache Spark 2 in a Hadoop environment. Maintenance of legacy systems using Python, Shell Script (Bash), and Java.

HET. Analist/data-engineer

Nextel (Stefanini IT Solutions contractor)
Mar 2019 - Jun 2019 · 3m
  • Gegevens laden van PostgreSQL met behulp van Sqoop, Apache Spark 2 en Python 3. Versioning data op een “momentopname” tabel met Apache Spark 2.

Data Engineer

Nextel (Stefanini IT Solutions contractor)
Telecommunications
Mar 2019 - Jun 2019 · 3m
  • Load data from PostgreSQL using Sqoop, Apache Spark 2, and Python 3. Versioning data on a “snapshot” table with Apache Spark 2.

Data Engineer

Banco Santander (everis & BRQ contractor)
Banking and Finance
Jan 2018 - Oct 2018 · 9m
  • ETL and data processing in the Hadoop environment using Apache Spark to fill business reports
Semantix

HET. Analist/data-engineer

Semantix
Dec 2016 - Jan 2018 · 1y 1m
  • Data-analyse met behulp van Hive en Impala (Cloudera distribution). Dataverwerking in de Hadoop omgeving. Ontwikkeling van automatisering scripts met behulp van Python en Shell script. Resultaat van IoT-opdrachten. Realtime batch verwerking met behulp van Apache Spark, Kafka en Elasticsearch.
Semantix

Data Engineer

Semantix
Digital Marketing
Dec 2016 - Jan 2018 · 1y 1m
  • Data analysis using Hive and Impala (Cloudera distribution). Data processing in the Hadoop environment. automation scripts development using Python and Shell script. Result of IoT engagements. Real-time batch processing using Apache Spark, Kafka, and Elasticsearch.

Java Developer

Stefanini IT Solutions
Information Technology (IT) and Services
Dec 2015 - Jun 2016 · 6m
  • Maintenance and development using Hibernate, Git, Maven, Tomcat 7, Oracle 10g, and JSP.
MavenMaven
HibernateHibernate
OracleOracle
TomcatTomcat

IT Analyst

CVC Viagens
Travel and Tourism
Jan 2015 - Sep 2015 · 8m
  • Project migration from SVN to Git. Processes Standardization to engagement versioning with automatization using Python and Jenkins. Creation and maintenance of automated tests with Selenium, Python, and Testlink. Automatic monitoring with Python, Selenium, and Zabbix

Java Developer

MAPS Soluções e Serviços
Information Technology (IT) and Services
Feb 2012 - Dec 2014 · 2y 10m
  • Development of mission-critical Java web systems to financial institutions, e.g. Caixa Econômica Federal, with JBoss, Wicket, Hibernate, JUnit, Selenium, continuous integration with Jenkins and Scrum as agile philosophy.
HibernateHibernate

Certificaten 3

Semantix
Cloudera Data Analyst Training: Using Pig, Hive, and Impala with HadoopSemantix
Semantix
Cloudera Developer Training for Spark & HadoopSemantix
Semantix
Cloudera Data Analyst Training: Using Pig, Hive, and Impala with HadoopSemantix
Wil je meer weten over de certificeringen van Arthur?Boek een gesprek

Educatie

FDT
Faculdade de Tecnologia de São Paulo
Analysis & Systems Development2022 - 2022
UFD
Universidade Federal do ABC
Computer- en informatiewetenschappen (uitval)2015 - 2019

Stop met browsen.
Word sneller gekoppeld.