Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Utolsó frissítésben adat dátuma az ellenőrző oldalakon is #3792

Closed
vasony opened this issue Mar 16, 2024 · 10 comments
Closed

Utolsó frissítésben adat dátuma az ellenőrző oldalakon is #3792

vasony opened this issue Mar 16, 2024 · 10 comments
Labels
confirmed Makes sense to implement/fix

Comments

@vasony
Copy link
Collaborator

vasony commented Mar 16, 2024

Utolsó frissítés: 2024-03-16 03:08 (osm), 2024-03-15 22:49 (területek)

Ezt a stílust kérném ide is:
https://osm.vasony.hu/lints/whole-country/invalid-addr-cities#

@vmiklos
Copy link
Owner

vmiklos commented Mar 17, 2024

Lehet róla szó. Itt megint az a gond, hogy jelenleg ehhez az adatot CSV-ben kérjük le, ami nem adja ezt az infót. Jó lenne nem növelni az overpass lekérdezések számát, úgyhogy akkor marad az, hogy JSON-ban lekérni, ami viszont az összes taget adja, ebből kimazsolázni azt ami minket érdekel (2 timestamp, pár címke). Szóval az a minta ahogy a területek OSM utcáit meg házszámait már most is lekérdezzük.

Ezzel egyben meg fog szűnni a workdir/stats/whole-country.csv; legyen valami 'osm-gimmisn dump-csv stats-whole-country' parancs ami kiadja az adatokat a régi CSV formátumában, vagy ha ott van az infó egy sqlite táblában az elég?

@vmiklos vmiklos added the confirmed Makes sense to implement/fix label Mar 17, 2024
@vasony
Copy link
Collaborator Author

vasony commented Mar 17, 2024

sqlite elég. csak mielőtt átállunk szólj, mert nem biztos hogy azonnal lesz időm

@vmiklos
Copy link
Owner

vmiklos commented Mar 18, 2024

Persze, a szokásos menet:

  1. JSON lekérdezést is csináljon a cron.
  2. Abból dolgozni mindenhol.
  3. Megvárni mikor már neked se kell a CSV.
  4. CSV lekérdezés kuka.

vmiklos added a commit that referenced this issue Mar 23, 2024
Related to <#3792>.

Change-Id: Id129124bc03ea2574340372182bba42e278dcb0e
vmiklos added a commit that referenced this issue Mar 23, 2024
Related to <#3792>.

Change-Id: Id129124bc03ea2574340372182bba42e278dcb0e
@vmiklos
Copy link
Owner

vmiklos commented Mar 23, 2024

Az 1) kész, csinálhatsz hozzá CSV exportot magadnak amikor jólesik, whole_country a tábla neve, azok az oszlopok vannak benne amit régen a CSV lekérdezés kapott. Darabonként nemsokára nekiállok ezzel párhuzamosan a 2)-nek, ugye a lényeg a 2 új dátum, ezek már most megvannak sqlben csak mutatni kell őket.

vmiklos added a commit that referenced this issue Mar 24, 2024
Addresses <#3792>.

Change-Id: Iab34a0a690afb3b0f46bca49b94a96829f445a57
vmiklos added a commit that referenced this issue Mar 24, 2024
Addresses <#3792>.

Change-Id: Iab34a0a690afb3b0f46bca49b94a96829f445a57
@vmiklos
Copy link
Owner

vmiklos commented Mar 24, 2024

A lényeg kész, de maradjon nyitva míg a csv törlése nincs kész.

@vmiklos
Copy link
Owner

vmiklos commented Mar 29, 2024

Én már nem olvasom a csvt, ha szólsz, hogy mehet akkor kukazom.

@vmiklos vmiklos added the needs testing Testing is needed before this can be closed label Mar 29, 2024
@vasony
Copy link
Collaborator Author

vasony commented Mar 29, 2024

ok, kell még egy kis idő, mert az új ref-et reszelem már egy ideje

@vasony vasony self-assigned this Mar 29, 2024
@vasony
Copy link
Collaborator Author

vasony commented Mar 30, 2024

@vmiklos TLDR; kiszedheted a csv generálást.

Eredeti ezt volt:

   awk  'BEGIN {FS="\t"}{if($6)  printf "%s/%s\t%s\t%s\t%s\t%s\t%s\t%s\t%s\n",$7,$6,$1,$2,$3,$4,$9,$10,$11 }' $workdir/stats/whole-country.csv  >$outfile.tmp
   head -n 1 $outfile.tmp >$outfile
   tail -n+2 $outfile.tmp | sort  -t$'\t' -k2,4 -k5n,5 -k5,5 -k1n,1 >>$outfile
   rm $outfile.tmp

Ez lett:

.headers on
.load ./libicu.so
.output /dev/null
SELECT icu_load_collation('hu_HU', 'HUNGARIAN');
.mode tab
.output stdout
select osm_type||"/"||osm_id, postcode, city, street, housenumber, place, unit, name from whole_country
order by postcode nulls last, city COLLATE HUNGARIAN, street COLLATE HUNGARIAN, place COLLATE HUNGARIAN,  cast(housenumber as number), housenumber, unit, osm_type, osm_id;

Az magyar rendezést belőni elég kinlódós volt, de ez lett a végleges:

gcc -fPIC -shared icu.c `pkg-config --libs --cflags icu-uc icu-io` -o libicu.so

Kicsit eltér a linuxos rendezéstől, de megteszi.

Kapcsolódó:
https://stackoverflow.com/questions/6578600/how-to-compile-sqlite-with-icu
https://www.sqlite.org/src/doc/trunk/ext/icu/README.txt

prob1: icu-config leírások már nem jók, pck-config van már helyette
prob2: a lib neve libicu.so kell egyen, különben error van

@vasony vasony removed their assignment Mar 30, 2024
@vasony vasony removed the needs testing Testing is needed before this can be closed label Mar 30, 2024
@vasony
Copy link
Collaborator Author

vasony commented Mar 30, 2024

Utána zárható

@vmiklos
Copy link
Owner

vmiklos commented Apr 1, 2024

909bcd4

@vmiklos vmiklos closed this as completed Apr 1, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
confirmed Makes sense to implement/fix
Projects
None yet
Development

No branches or pull requests

2 participants