Ogg Vorbis is a fully open, non-proprietary, patent-and-royalty-free, general-purpose compressed audio format for mid to high quality (8kHz-48.0kHz, 16+ bit, polyphonic) audio and music at fixed and variable bitrates from 16 to 128 kbps/channel. This places Vorbis in the same competitive class as audio representations such as MPEG-4 (AAC), and similar to, but higher performance than MPEG-1/2 audio layer 3, MPEG-4 audio (TwinVQ), WMA and PAC.
Короче, формат сжатия аудио, альтернатива mp3 и ему подобным форматам сжатия с потерями (lossy). Считается, что субъективно качество при одинаковых битрейтах у ogg выше, чем у mp3, соответственно звук в ogg при одинаковом качестве можно писать с меньшим битрейтом, что означает меньший размер файла. На самом деле сравнивать их — некоторая натяжка, поскольку используются разные психоакустические модели, но тем не менее, из явных отличий — ogg не даёт на высоких частотах такого лязга и плывущего звука, который характерен для mp3.
Winamp 5.xx точно имеет в себе поддержку, в винамп 2.xx она началась не помню с какой версии, точно не помню с какой, но у меня 2.95 так же содержит плагин для проигрывания этого формата, называется in_vorbis.dll. Если есть необходимость устанавливать системные кодеки, то их можно найти на сайте по приведённой выше ссылке.