Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

overpass osm dátumok szerepeltetése a frissítve dátumnál #3105

Closed
vasony opened this issue Jun 20, 2023 · 12 comments
Closed

overpass osm dátumok szerepeltetése a frissítve dátumnál #3105

vasony opened this issue Jun 20, 2023 · 12 comments
Labels
confirmed Makes sense to implement/fix enhancement New feature or request needs testing Testing is needed before this can be closed

Comments

@vasony
Copy link
Collaborator

vasony commented Jun 20, 2023

Nem tudjuk mikori adatokat ad vissza az overpass, mert nem json-ban/xml-ben kérjük le, így kéne egy plusz kört futni a dátumokkal minden frissítésnél, és kiírni valahova. Főleg a timestamp_areas_base ami fontos, mert sokszor régi és nem értjük miért vannak még további utcák.

Az alábbival megkapjuk a 2 dátumot (objektumok, területek), amit az overpassban van. (windows enclosing, javítani kell majd linuxra)

curl -s "https://overpass-api.de/api/interpreter?data=\[out:json\];area(3600221998);out;" | jq -r "[.osm3s.timestamp_osm_base,.osm3s.timestamp_areas_base] | @TSV"

nyilván nem kell ezeket a cuccuokat használni ez csak egy elv

@vasony vasony added the enhancement New feature or request label Jun 20, 2023
@vmiklos
Copy link
Owner

vmiklos commented Jun 21, 2023

Hm, a CSV ötlet eredetileg onnan jött, hogy az egész országra az összes házszám már nem triviális méret. CSV-ben tudok szűrni csak a kért tulajdonságokra, így is 40MB körül van egy napi lekérdezés. De utána már mindegy a formátum, mert kódban a CSV-ből meg a JSON-ból is struct lesz. Ha jól értem most itt a területenkénti lekérdezésekről van szó, azt simán át lehetne rakni JSON-ba, ott nem aggódok a méret miatt, és akkor csak 1 lekérdezés kéne.

Szóval én azt javasolnám, hogy 1) átállás JSON lekérdezésekre overpassból 2) utána már megvan helyben a két dátum és lehet mutatni. Vélemény?

@vasony
Copy link
Collaborator Author

vasony commented Jun 21, 2023

Ha az overpass query-ket átírod a data-ban, hogy ne csv legyen, akkor összeomlik a 7.2 azonnal. Szóval ha ez az irány, akkor átmenetileg azokat be kell fagyasztani. (Az új gép debiannaé már helyén csak várja a csodát).

Vagy beolvasás után átírod a fejlécet átmenetileg memóriában.

@vmiklos
Copy link
Owner

vmiklos commented Jun 21, 2023

Persze, egy keresés & csere mehet rá memóriában mielőtt elküldöm. Mire ide jutok, lehet már te se 7.2-n leszel. :)

@vmiklos
Copy link
Owner

vmiklos commented Nov 10, 2023

Azt még ki kéne gondolni, hogy hol jelenítsük ezt meg. A lábléc legyen hosszabb, ilyesmi, hogy:

Last update: 2023-11-10 00:15 (OSM base: ..., areas base: ...)

?

@vasony
Copy link
Collaborator Author

vasony commented Nov 10, 2023

A mostani dátumot kidobnám, nincs jelentősége.
Last update: 2023-11-10 00:15 (osm), 2023-11-10 00:10 (areas)

@vmiklos
Copy link
Owner

vmiklos commented Nov 11, 2023

OK, át fogok állni json lekérésre, hogy megkapjam a dátumokat is, a bonyolult last update számítást meg egyszerűsíteni lehet, hogy ezt a kettőt mutassa az osm utca vagy osm házszám alapján.

@vmiklos vmiklos added the confirmed Makes sense to implement/fix label Nov 11, 2023
@vmiklos
Copy link
Owner

vmiklos commented Nov 17, 2023

Rész-feladatok amiket most látok (egyelőre utcákra, de nyilván jönnek majd a házszámok is):

  • legyen olyan overpass query ami jsont kér
  • kérjük is le ezt a jsont, eredményt eltárolni sqlben (mint régen a csv)
  • az osm+areas dátumok olvasása jsonból, azt is tárolni sqlben
  • a felületre kivezetni ezt az infót
  • régi CSV kivezetése, hogy újra 1 overpass query legyen csak

Kicsit sok lépés, de akkor a végén továbbra is csak 1 overpass lekérés lesz és megkapjuk a dátumokat amit szerettél volna.

vmiklos added a commit that referenced this issue Nov 24, 2023
- same for /missing-streets/.../view-result
- same for /additional-streets/.../view-result

Related to <#3105>.

Change-Id: Ia573b77ca1e7754e35be6a82eb2714722100b968
vmiklos added a commit that referenced this issue Nov 24, 2023
- same for /missing-streets/.../view-result
- same for /additional-streets/.../view-result

Related to <#3105>.

Change-Id: Ia573b77ca1e7754e35be6a82eb2714722100b968
@vmiklos
Copy link
Owner

vmiklos commented Nov 24, 2023

https://osm-gimmisn.vmiklos.hu/osm/streets/budapest_01/view-result az utcák már jók. Még némi rendrakás hátravan, hogy ne legyen dupla CSV+JSON lekérdezés aztán jöhet u.ez a házszámokra.

@vmiklos
Copy link
Owner

vmiklos commented Dec 16, 2023

Az utcák rendbetétele halad, még kb 9 kisebb lépést látok és akkor jöhet u.ez a házszámokra.

vmiklos added a commit that referenced this issue Dec 25, 2023
Which allows removing the last traces of OSM streets as CSV files.
Everything is in SQL now, including the 2 (osm, areas) dates of the
streets.

Addresses the streets part of
<#3105>.

Change-Id: Icb671f569c533fa6961b3167e69db3ed4bd50233
vmiklos added a commit that referenced this issue Dec 25, 2023
Which allows removing the last traces of OSM streets as CSV files.
Everything is in SQL now, including the 2 (osm, areas) dates of the
streets.

Addresses the streets part of
<#3105>.

Change-Id: Icb671f569c533fa6961b3167e69db3ed4bd50233
@vmiklos
Copy link
Owner

vmiklos commented Dec 26, 2023

Az utcák rész kész, még u.ez kell házszámokra is.

vmiklos added a commit that referenced this issue Dec 31, 2023
Similar to commit 88a9a3f (wsgi: show
osm+areas time for /streets/.../view-result, 2023-11-24).

Related to <#3105>.

Change-Id: I7de7531e715fee0d6e63b2fbee5509814eaa3be4
vmiklos added a commit that referenced this issue Dec 31, 2023
Similar to commit 88a9a3f (wsgi: show
osm+areas time for /streets/.../view-result, 2023-11-24).

Related to <#3105>.

Change-Id: I7de7531e715fee0d6e63b2fbee5509814eaa3be4
@vmiklos
Copy link
Owner

vmiklos commented Dec 31, 2023

@vmiklos vmiklos added the needs testing Testing is needed before this can be closed label Dec 31, 2023
@vasony
Copy link
Collaborator Author

vasony commented Dec 31, 2023

itt teszteltem:
https://osm-gimmisn.vmiklos.hu/osm/additional-streets/pomaz/

3x frissítettem le az overpass-ból, és szépen látszott, hogy másik dátumokat kap a területre a különböző instanciákból, amikor már kellően friss dátumot írt, akkor a Lehet utca eltűnt.

@vasony vasony closed this as completed Dec 31, 2023
vmiklos added a commit that referenced this issue Jan 23, 2024
Similar to 126812b (JSON API: stop
writing OSM streets as CSV, 2023-12-25).

The last commit related to
<#3105> for now.

Change-Id: If97e6606b63c38fb0d213447eb0d0d1adc692c67
vmiklos added a commit that referenced this issue Jan 23, 2024
Similar to 126812b (JSON API: stop
writing OSM streets as CSV, 2023-12-25).

The last commit related to
<#3105> for now.

Change-Id: If97e6606b63c38fb0d213447eb0d0d1adc692c67
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
confirmed Makes sense to implement/fix enhancement New feature or request needs testing Testing is needed before this can be closed
Projects
None yet
Development

No branches or pull requests

2 participants