Funktioniert in WordPress hervorragend einfach. In der Datei functions.php (Anlegen, falls nicht vorhanden) des Templates/Themes folgende Zeilen hinzufügen:

function fb_cat_exclude($query) {
if ($query->is_feed) {
$query->set('cat','-9');
}
return $query;
}

add_filter('pre_get_posts','fb_cat_exclude');

Wobei 9 hierbei die ID der Kategorie ist, die es auszuschließen gilt.