Trochę pogrzebałem i okazało się że w OBS lub vMIX trzeba jako źródło wpisać RTP://@:5000
Bez adresu samej kamery. Za to w kamerze podaje się docelowy adres serwera, czyli komputera na którym stoi OBS lub vMIX.
Być może trzeba otwierać odpowiednie porty w komputerze, co mogło być źródłem problemów podczas pierwszych testów.
Pomógł dokument PDF o nazwie XF705 IP STREAMING GUIDE VLC VERSION, dostępny również w wersji html:https://manuals.plus/canon/xf705-ip-streaming-manual

Na razie zagadką jest jak odebrać strumień z kilku takich kamer, skoro nie podajemy adresu kamery jak to na ogół jest w kamerach IP. Prawdopodobnie trzeba będzie ustawiać każdą z kamer na innym porcie, tj. 5001, 5002 itd. ale to sprawdzimy dopiero jak pożyczymy drugą kamerę.