Nie ma czegoś takiego jak "nieostre promienie światła". Nieostrość (bokeh) bierze się z tego że światło nie ogniskuje się na powierzchni matrycy tylko przed lub za co powoduje powstawanie krążka rozproszenia większego niż piksel matrycy.
Problemem nie jest wielkość kadru a ilość światła która wpada do obiektywu. Całe twoje rozumowanie jest błędne i wg mnie wynika z niezrozumienia podstawowej zasady tworzenia obrazu. To co widzisz na obrazie jako ostry punkt jest tworzone przez nieskończenie dużą ilości promieni świetlnych, tyle że zogniskowanych w jednym punkcie. Jeśli ostrość danego obiektu jest ustawiona przed lub za matrycą wtedy te promienie tworzą krążek bo nie ogniskują się na matrycy. Krążek będzie tym większy im dalej od powierzchni matrycy ogniskuje się to światło. Twoje błędne rozumowanie chyba wynika z założenia że jeden piksel na matrycy jest tworzony przez jeden promień światła odbity od obiektu i wpadający do obiektywu. Tak nie jest. światło tworzące odwzorowanie danego nieskończenie małego punktu obiektu jest zbiorem nieskończenie dużej ilości promieni światła odbitego od tego obiektu pod różnymi kątami. To soczewka obiektywu powoduje że te promienie ogniskują się w jednym punkcie matrycy (jesli ostrość jest ustawiona na obiekt) lub tworzą okrąg jeśli ostrość jest ustawiona gdzie indziej. Problem winietowania pojawia się wtedy gdy światło odbite od obiektu nie dociera w całości do matrycy z powodu np. małej średnicy soczewki obiektywu lub wpada do obiektywu ale ze względu na jego długość nie dociera do tylnej soczewki.
No też nie :-). Z faktu że na cropie winietowanie jest mniejsze wyciągasz wniosek że problem leży w wielkości pola obrazowego, a to nie tu jest sedno sprawy. Da się zrobić prawie niewinietujący obiektyw dla dowolnego formatu matrycy, tyle że wiąże się to z odpowiednio dużym rozmiarem przedniej soczewki i małą długością obiektywu. Tyle tylko że wtedy pojawia się problem aberracji ponieważ światło wpadające pod dużym kątem do obiektywu musi być przez soczewki załamane znacznie mocniej.
Najważniejsze jest to co dzieje się w obiektywie od przedniej soczewki do przysłony. Jeśli obiektyw jest całkowicie otworzony to cudów nie ma i zawsze będzie winietował. Rozwiązaniem jest zrobienie takiej konstrukcji, która zbiera znacznie więcej światła niż nominalne f/x obiektywu a następnie ograniczenie jego ilości przez na stałe ustawioną przysłonę. Ograniczenie wielkości pola obrazowego o którym piszesz wcześniej jest w pewnym sensie takim rozwiązaniem ponieważ tutaj rozmiar matrycy działa jak namiastka przysłony odcinając światło z narożników i ukrywając wady.
EDIT: polecam do zabawy wziąć lupkę lub zwykły obiektyw (dolną soczewką do ziemi i ostrość na nieskończoność) i pobawić się na słońcu. Jeśli ustawisz w odległości od ziemi równej długości ogniskowej to promienie słoneczne skupią się w jednym punkcie. Jak zmienisz odległość to z tych samych promieni zacznie robić się kółko :-)