Serwery, które dostarczają warstwy nie biorą ich na żywo z OSM tylko raz na jakiś czas aktualizują dane z OSM a następnie generują kafelki (tiles) dla poszczególnych poziomów zooma. W uproszczeniu - na podstawie danych z OSM + specyfikacji wyglądu (tj. jakie elementy powinny być widoczne na warstwie, w jakich kolorkach itd) generują obrazki. Nie robią tego "na zapas" bo np. dla 19 poziomu zoom to jest 275 miliardów obrazków.
Żeby mieć gotową warstwę, która będzie zawierać coś specyficznego zgodnie z Twoimi oczekiwaniami (np. przeźroczysta warstwa z ikonkami POI z określonych kategorii) musiałbyś mieć serwer, który takie kafelki wygeneruje. Oczywiście można postawić własny serwer i przygotować specyfikację takiej warstwy - ale to nie jest zadanie trywialne

Gdybyś się skusił to np. tutaj jest opis:
https://switch2osm.org/serving-tiles/ Nie znam żadnego publicznego serwera pozwalającego dowolnie dostosowywać serwowane treści.
Tutaj
https://wiki.openstreetmap.org/wiki/Raster_tile_providers masz listę publicznych "dostawców kafelków" - w tym warstwy przezroczyste - ale to są wszystko gotowe rozwiązania (tj. serwują to co właściciele chcą).
mapy.cz działają inaczej, bo biorą POI z OSM (i chyba nie tylko z OSM) jako czyste dane. Na podstawie tego już aplikacji (JavaScript) wstawiają ikonki na mapę - to nie jest prawdziwa warstwa (w sensie kafelków) - ale za to takie POI są klikalne (zauważ, że normalnie na RWGPS POI są nieklikalne - bo one pochodzą właśnie ze zwykłej warstwy i są po prostu elementem obrazka).
Teoretycznie mógłbyś uzyskać analogiczny efekt pisząc swoje rozszerzenie do przeglądarki, która takie POI osadzi na mapie - ale to kolejne nietrywialne zadanie (nie mówiąc o tym, że pełna baza OSM z której możesz wyciągnąć POI ma rozmiar ok 2TB).