Vi prøver ut import av GML i Datafangst

Som vist på BA-nettverkstreff 20. januar så har vi nå lansert en prototype for import av GML til datafangst. Dette gjør du manuelt via menyen for filopplasting, som nå støtter filtypene .SOS og .GML. Direktelenke til presentasjonen BA-nettverkstreff 20.1.

Vi understreker at dette er en prototype som gjør det lettere å prøve ut de ulike GML-variantene som finnes i markedet og avdekke styrker og svakheter.

GML-en min virker ikke, kan dere fikse?

Vi vil svært gjerne kartlegge hvilke problemer som evt dukker opp, så den GML-filen som feiler kan du sende til Datafangst-support krøllalfa vegvesen punkt no. Sammen med Vegvesenets standardiseringseksperter vil vi sjekke om problemet er i GML-filen, i datafangst import – og eventuelt om applikasjonsskjemaet bør videreutvikles for å støtte det du prøver å få til. Dine feilmeldinger inngår i kunnskapsgrunnlaget når vi videreutvikler støtte for GML.

Det vi IKKE kommer til å gjøre – er å fikse feilen raskt. Akkurat nå, vinteren og våren 2022, må vi prioritere ny datafangst-løsning samtidig som vi sikrer stabil drift av nåværende løsning.

Datafangst ønsker til fremtidig GML-funksjonalitet

Sett fra Datafangst sin side så ønsker vi at det blir mulig å beskrive følgende i fremtidige GML-dokument

  • Flere objekttyper i samme GML-dokument (dette tror vi er fullt mulig i dag, men vi må få erfaring med «beste praksis» og eventuelle snublefeller)
  • Angi hvilke NVDB skriveoperasjoner som ønskes for de eksisterende NVDB-objektene (registrer, oppdater, korriger m.m.)
  • Angi relasjoner mellom objekter: Internt i GML-dokumentet, mellom objekter i GML og eksisterende NVDB-objekter og mellom eksisterende NVDB-objekter.

Denne funksjonaliteten kan ikke løses av Datafangst alene, men krever et samarbeid om hvordan vi videreutvikler GML «Beste praksis» i markedet. Men vi på Datafangst er veldig gjerne med på å prøve ut disse mulighetene.

Les-API i ATM/test-miljø blir utilgjengeleg.

Vi er nødt til å ta ned API-Les i ATM/test-miljø for å teste ei endring vi planlegg i PROD til helga. ATM Les vil då vere nede frå eit tidspunkt no i ettermiddag (3/3 2022) til i morgon formiddag ein gong.

Målet med endringa er å kraftig redusere tidsbruken i IND som vil gjere at ventetida frå registrering i Skriv til data er tilgjengelg i Les vert betydeleg kortare enn i dag. Potensiell gevinst her er så stor og etterspurd at vi prioriterer å teste dette i ATM no så vi kan innføre det i PROD alt denne helga.

Demo NVDB Rapporter og Datafangst 2. mars 2022

Her er opptak fra demo

NVDB rapporter:

  • Kan laste ned zip-fil med de 5 mest relevante rapporttypene (V1,V2,V3,V4 og tilstand/skade).
  • Vegnettslengde – har ny rad med summen av gang/sykkelveg og kjøreveg.
  • Veglisteproduksjon: Komma som desimaltegn, bruke lang tankestrek, ikke kort bindestrek i strekningsbeskrivelse; fjerne mellomrom før og etter tankestrek. Dette er i hht klage fra Språkrådet

Datafangst:

Ikke så mye ny funksjonalitet å vise fram, fokus har vært på stabilitet (og dermed også ytelse). Datafangst har crashet pga minneforbruk. Årsaken har vært at Datafangst ikke har hatt noen form for begrensning ved «vis eksisterende objekter». Det var veldig enkelt å laste inn f.eks. skiltplater for hele Norge. Nå har vi satt begrensning slik at du kun laster inn «eksisterende objekt» for små områder, dvs at du må zoome inn.

  • Begrensning ved innlasting «eksisterende objekt», du må zoome ganske langt inn før systemet tillater deg å hente objekter. (Workaround de gangene dette blir plundrete: Importer data fra vegkart API-lenke).
  • Sammenkoblingsfanen – hadde samme problem ved søk etter NVDB-objekter, fikk crash pga minneproblemer. Har satt en begrensning, søkeradius er redusert til 1000 meter. (Workaround de gangene dette blir plundrete: Importer data fra vegkart API-lenke).
  • GML på vei mot produksjon
  • Last opp fil med eksisterende objekt: Datafangst har tidligere lest inn ett objekt av gangen. Nå leser vi 200 av gangen. Ved vår test prøvde vi innlesning av 1000 objekter og tiden for innlasting ble redusert fra flere minutter til en håndfull sekunder.
  • Maks størrelse SOSI fil: Har satt en begrensning på 3000 objekter.
  • Opplasting med sensitive egenskaper: Kunne ta veldig lang til hvis man ikke hadde rettighet til å lese sensitive egenskaper, fiksa.
  • Sjekker at relasjon er reell før vi endrer på relasjonen. (dvs sjekke at mor-objekt finnes og det finnes en eksisterende relasjon til datterobjekt før vi sletter eller endrer mor->datter relasjonen). Vi har hatt en del supportsaker der brukerne våre står fast med avviste endringssett fordi enten mor-objekt eller relasjonen mor->datter er historiske.

Tilbakemeldinger

Hva hvis vi skal koble mor-objekter som ligger langt unna, kan vi bruke vegkart søkelenke for å hente inn objekter som ligger lengre unna enn 1000 m? F.eks. tunnelløp->skiltplate relasjon kan være i stor avstand. Ja – og dette er en veldig god workaround for de tilfellene der våre nye begrensninger gir plunder.

Får ikke lese hendelsesloggen lenger? Forslag om å kun vise siste del av hendelsesloggen? Godt forslag, notert!

Legge inn vegreferanser? Pass på at det ikke blir multiple stedfestinger. Enig, notert!

Problemer med å opprette belysningsstrekning. Gjelder alle brukere, ser det ut til. Even G tror han vet hvor problemet ligger, og at han klarer løse det greit og raskt..

Norge i bilder (flybilder bakgrunnskart) – visning funker ikke for brukere utenfor SVV-nettet. Takk for feilmelding! Her kom Kartverket forleden med ny tjeneste som Vegkart allerede har tatt i bruk. Vi tar i bruk samme løsning som Vegkart bruker, så blir dette problemet løst. (Dette vil også gi bedre ytelse på flyfoto).

Bugfix release datafangst

Vi fjernet to bugs, en i sammenkoblingsfanen og søk i datafanen skal nå fungere

I tillegg har vi tatt vekk Rød prikk som symboliserer hvilke kontrakter det er endringer på. Vi jobber med å få tilbake denne funksjonen. Dette var en altfor treg databasespørring. Når vi har mange brukere samtidig så får vi da altfor mange trege spørringer som kverner og kverner og spiser opp systemressurser – og på et punkt går alt i stå, vi kan ikke ha ubegrenset med trege spørringer samtidig.

Vi har funnet flere tricks som fjerner denne tregheten. For det første har vi fått spørringene til å gå radikalt raskere. Videre er det noen tricks knyttet til at vi ikke spør om alt på en gang, kun de kontraktene du har synlige i skjermbilde, og litt tilsvarende tricks. Dette blir produksjonssatt så snart det er klart.

Demo datafangst 2. februar 2022

Vi pleier ikke poste oppsummering fra demo, men på grunn av situasjonen med dårlig stabilitet i Datafangst så kom det fram ting på demo vi mener bør nå fram til flere.

NVDB Rapporter:

Kan bestille zip-fil med V1,V2,V3,V4 og tilstand/skade. Sum veglengder: Ny rad med summen av kjøreveg og gang/sykkelsti.

Datafangst – ytelse og stabilitet

Ytelse og stabilitet henger sammen – hvis en type spørring går tregt så vil det bli en lang «kø» med disse trege spørringene, og i verste fall blir det så mange samtidige trege spørringer samtidig at alt sammen stopper opp.

Vi har tatt vekk «røde prikken» som viser hvilke kontrakter som er endret. Dette var en av de trege spørringene som ga oss utfordringer. Vi skal gjøre denne databasespørringen raskere og når den blir rask nok så kommer prikken tilbake.

Brukerønske ang den røde prikken: Vi har behov for denne typen «Vis at her er det skjedd endringer» på alle GUI-elementer, fra den overordnede listen med kontrakter helt ned til visning av enkeltobjekter.

Ekstremt tydelig og klar tilbakemelding på at vi må bli flinkere til å publisere driftsmeldinger fortløpende på twitter, og dernest bli flinkere til å skrive oppsummeringer om arbeidet med problemløsning (og øvrige planer) på vegdata.no.

Ny funksjonalitet i datafangst: «Opprett nytt strekningsobjekt»

Vist på forrige demo, men måtte gå en runde til fordi brukertesten avdekket mangler. I denne testprosessen fått gode innspill og idéer fra testerne våre, og ut fra det har vi laget flere løsningsforslag som vi mener tilsammen skal gi knallbra funksjonalitet. Men disse må prioriteres bak arbeidet med ytelse og stabilitet. Vi vil prøve å snurpe sammen en minimumsløsning som ikke vil være så brukervennlig som vi ønsker, men som fungerer godt nok til at den kan tas i bruk. Så får den knallgode implementasjonen komme senere, når vi har mer overskudd.

Balansering – arbeidet med ny versus gammel datafangst-løsning

Vi kommer ikke til å offisielt «fryse» videreutvikling av gammel datafangst-løsning selv om vi lager en ny. Verden endrer seg, og det kan dukke opp behov som er for viktige til at de kan vente på den nye løsningen. Vi nekter derfor å sette opp harde regler for hva vi gjør og ikke gjør av forbedringer i gammel løsning.

Aller høyest prioriterer vi at Datafangst virker! Ytelse og stabilitet henger sammen, og dette prioriterer vi høyt. Ref oversikten over arbeidet med å forbedre brukeropplevelse

Bortsett fra den nye funksjonen «Opprett nytt strekningsobjekt» vil det ikke bli tilført noe særlig nytt i eksisterende datafangst.

Vi vil også prøve å gjeninnføre del av de tingene vi måtte deaktivere på grunn av ytelsesproblemer, for eksempel «rød prikk» ved de kontraktene der det har skjedd endringer. Og det er ett og annet småtteri og bugs som ikke lenger fungerer like godt som før, det prøver vi å fikse. Og så er det slik at hvis vi med liten innsats kan gjøre en fiks eller forbedring som gir brukerne våre en bedre arbeidshverdag så prøver vi jo å klemme det inn. Men ikke forvent for mye.

Feilen er retta i IND/NVDB-Les.

Vi har klart å løyse feilen vi har slit med i NVDB denne veka. Det vert då ikkje behov for å bygge opp data på nytt i helga. Det vert starta normal reindeksering som vanleg i helga, og API-et og alle klientar som nytta det vil fungere som normalt.

Vi vil no fortsette å sjå på forbetringar i API-et for å gjere data raskare tilgjengeleg etter registrering.

Varsel !!! – Mogleg nedetid i NVDB-Les i helga.

Vi har som mange nok har erfart hatt utfordringar utover et normale i NVDB den siste veka. I samband med feilretting kan det verte aktualt å bygge opp data i NVDB på nytt. Dersom det vert nødvendig vil vi gjere det i helga.

Under gjenoppbygging av data vil NVDB-Les vere heilt utilgjengeleg i ei periode. Dette vil påverke alle klientar som nyttar NVDB-data. Vegkart vil og framstå som tom.

Data i NVDB vil ikkje verte berørt, og ingen data skal gå tapt. Vi må berre bygge opp igjen tilgangen til dataene.

Les-API v2 vil vere oppe, det same gjeld vegkart-2019.atlas.vegvesen.no dersom nokon treng tilgang på data, men då med dei avgensingane som er i v2 med gamle fylker og kommuner, samt gamle vegreferansar.

Vi vil oppdatere med ny informasjon i løpet av morgongaden om kva som vil skje i helga.

Ustabilitet i NVDB

Vi har litt utfordringar i NVDB igjen. Feilen har pågått heile veka og mange har nok merka at Les ligg langt etter med etterbehandling. Dette er på grunn av at tenesten plutselig stoppar opp.

Vi har ute ein midlertidig fiks som omgår problemet i produksjon, men vi opplever likevel at alt går litt tregare enn normalt.

Testing av feilretting i ATM

Det pågår no testing og feilretting i ATM-miljø (test-PROD). Les kan difor vere ustabil i dette miljøet framover til vi har løyst problemet.

Hvorfor bygger vi splitter ny Datafangst?

Kortversjon: På fem år har Datafangst vokst fra en enkel prototype til en kompleks applikasjon. I dag håndterer DF større datavolum enn den ble bygget for, og vi har en veldig uheldig blanding av gammel kode skrevet i ett rammeverk (Angular, som ikke blir videreutviklet) og ny kode skrevet i et annet rammeverk (React). Brukerne våre opplever treghet, og utviklernes jobb er unødig plundrete.

Den aller første versjonen kommer våren eller sommeren 2022. Denne versjonen vil kun ha det minimumet av funksjoner som trengs for å levere data til NVDB, men da kun for et snevert utvalg av data, med et minimum av de aller mest nødvendige funksjonene. Nye releaser vil komme i form av hyppige, men små forbedringer. Slik vil vi gradvis føye til mer avansert funksjonalitet. Gradvis vil den nye løsningen kunne overta stadig flere arbeidsoppgaver fra den gamle løsningen.

Presentasjon og stikkord fra møte 25.1.2022 om ny datafangst: