Arthur J.

Arthur J.

Data Engineer

Brazil
Betroet medlem siden 2022
8 års erfaring

Arthur er en passioneret og resultatfokuseret dataingeniør med ti års erfaring med udvikling af robuste og pålidelige datapipelines og BI-dashboards samt databaseret problemløsning for internationale virksomheder. Han har primært arbejdet med big data og maskinlæring.

Han tænker strategisk og fokuserer på at forstå sammenhænge, teste hypoteser, drage faktabaserede konklusioner og etablere en datadrevet kultur med teammedlemmerne. Arthur er analytisk og velorganiseret og lærer hurtigt nye teknologier med en stærk teoretisk baggrund inden for teknologi og matematik.

Han kan spille en afgørende rolle med at sikre kvalitetsløsninger gennem hele engagementets livscyklus fra udvikling til support.

Hovedekspertise

PythonPython8 år
Data Engineering6 år
Apache SparkApache Spark6 år
ETLETL4 år
5+

Erfaring12

Python developer/Data Engineer

US-based clinical research company
Healthcare
Nov 2022 - Nov 2023 · 1y

Arthur's team was developing a POC to gather medical data from multiple partners and transform it into a research standard to make it available to their clients. In this project, Arthur built some tools to transform and ingest data using Python and Rust. They used an SQL Server as the database and started to develop scripts to run in Azure.

Thoughtworks

Dataingeniør

Thoughtworks
Information Technology (IT) and Services
Nov 2020 - Aug 2022 · 1y 9m
  • Dataoverførsel med brug af Azure Data Factory. Databehandling med brug af Apache Spark hos Databricks. Procesautomatisering ved hjælp af Python.
Azure Data FactoryAzure Data Factory

DET. Analytiker/dataingeniør

Grupo Pão de Açúcar
Jun 2019 - Nov 2020 · 1y 5m
  • Data-ETL fra Teradata-DW med brug af Sqoop på Hive, Impala og Apache Kudu. Databehandling med Apache Spark 2 i et Hadoop-miljø. Vedligeholdelse af ældre systemer med brug af Python, Shell Script (Bash) og Java.

Data Engineer

Grupo Pão de Açúcar
Retail
Jun 2019 - Nov 2020 · 1y 5m
  • Data ETL from Teradata DW using Sqoop on Hive, Impala, and Apache Kudu. Data processing with Apache Spark 2 in a Hadoop environment. Maintenance of legacy systems using Python, Shell Script (Bash), and Java.

DET. Analytiker/dataingeniør

Nextel (Stefanini IT Solutions contractor)
Mar 2019 - Jun 2019 · 3m
  • Indlæsning af data fra PostgreSQL med Sqoop, Apache Spark 2 og Python 3. Versionsstyring af data i en "snapshot"-tabel med Apache Spark 2.

Data Engineer

Nextel (Stefanini IT Solutions contractor)
Telecommunications
Mar 2019 - Jun 2019 · 3m
  • Load data from PostgreSQL using Sqoop, Apache Spark 2, and Python 3. Versioning data on a “snapshot” table with Apache Spark 2.

Data Engineer

Banco Santander (everis & BRQ contractor)
Banking and Finance
Jan 2018 - Oct 2018 · 9m
  • ETL and data processing in the Hadoop environment using Apache Spark to fill business reports
Semantix

DET. Analytiker/dataingeniør

Semantix
Dec 2016 - Jan 2018 · 1y 1m
  • Dataanalyse med brug af Hive og Impala (Cloudera-distribution). Databehandling i Hadoop-miljøet. Udvikling af automatiseringsscript med brug af Python og Shell script. Resultater fra IoT-engagementer. Batchbehandling i realtid med brug af Apache Spark, Kafka og Elasticsearch.
Semantix

Data Engineer

Semantix
Digital Marketing
Dec 2016 - Jan 2018 · 1y 1m
  • Data analysis using Hive and Impala (Cloudera distribution). Data processing in the Hadoop environment. automation scripts development using Python and Shell script. Result of IoT engagements. Real-time batch processing using Apache Spark, Kafka, and Elasticsearch.

Java Developer

Stefanini IT Solutions
Information Technology (IT) and Services
Dec 2015 - Jun 2016 · 6m
  • Maintenance and development using Hibernate, Git, Maven, Tomcat 7, Oracle 10g, and JSP.
MavenMaven
HibernateHibernate
OracleOracle
TomcatTomcat

IT Analyst

CVC Viagens
Travel and Tourism
Jan 2015 - Sep 2015 · 8m
  • Project migration from SVN to Git. Processes Standardization to engagement versioning with automatization using Python and Jenkins. Creation and maintenance of automated tests with Selenium, Python, and Testlink. Automatic monitoring with Python, Selenium, and Zabbix

Java Developer

MAPS Soluções e Serviços
Information Technology (IT) and Services
Feb 2012 - Dec 2014 · 2y 10m
  • Development of mission-critical Java web systems to financial institutions, e.g. Caixa Econômica Federal, with JBoss, Wicket, Hibernate, JUnit, Selenium, continuous integration with Jenkins and Scrum as agile philosophy.
HibernateHibernate

Certifikater 3

Semantix
Cloudera Data Analyst Training: Using Pig, Hive, and Impala with HadoopSemantix
Semantix
Cloudera Developer Training for Spark & HadoopSemantix
Semantix
Cloudera Data Analyst Training: Using Pig, Hive, and Impala with HadoopSemantix
Vil du vide mere om Arthur certificeringer?Book et opkald

Uddannelse

FDT
Faculdade de Tecnologia de São Paulo
Analysis & Systems Development2022 - 2022
UFD
Universidade Federal do ABC
Computer- og informationsvidenskab (frafald)2015 - 2019

Stop med at søge.
Bliv matchet hurtigere.