Hallo!
Du sagst, du hättest ein Real-Plugin - Hast das denn installiert, d.h. im Plugin-Ordner von Opera? Wenn ja, versuch mal, bei den Dateitypen im Opera nicht direkt VLC zuzuweisen, sondern ganz unten "Plugin verwenden", und dort mal schauen, ob da dein Plugin auftaucht!
Ansonsten fiele mir im Moment noch das Browser-Plugin vom VLC ein, das hatte ich ne Zeit lang, aber da müsste man mal danach suchen, mit dem ging das bei mir ganz gut!
Gruß
Edit: Wegen dem Browser-Plugin: Im VLC-Ordner unter \mozilla\ is des, für den Fall dass es dein Real-Plugin nicht tut, kannst dann ja mal das probieren!