Mobility Data Warehouse
Kogenta AS | Steds- og bevegelsesanalyse
Innsikt oppnådd i det første mobilitetsprosjektet ga oss mulighet til å sette opp et datavarehus (DW). Store deler av prosjektet ble brukt på å konvertere tidligere beregninger til en robust ETL pipeline som var i stand til å levere store datamengder mens den gjenværende tiden ble brukt på å konfigurere og sette opp DW. ETL pipeline ble matet med store mengder lokaliseringsdata, samt andre sensordata samlet inn fra mobile enheter. Rørledningen konverterte deretter disse dataene til turer og reiser. En tur bestod av et anonymisert start- og sluttsted samt transportmetoden som ble brukt for å komme dit. Reiser ble beregnet basert på disse turene for å kombinere flere måter å reise fra et sted til et reisemål. På grunn av den store skalaen av data, var skalerbarhet en viktig del av prosjektet, og det ble brukt mange timer på å optimalisere måter å transformere data på, og konfigurere clustere for å sikre at vi kunne holde kalkulasjonstiden innenfor rimelig tid. Eksterne kilder som offentlig tilgjengelige kollektivtransportdata ble brukt i beregningene for å beregne transportmåter, så flere feilbehandlere ble implementert for å sikre riktig datakvalitet levert til kunden når disse kildene var nede.