Après être apparus sur plusieurs maxis et compilations, Vast Aire et Vordul Mega sortent en 2001 leur premier LP The Cold Vein sur le label Def Jux. L'opus se démarque des autres albums de rap par le récit très imagé de leur vie dans les rues de New York, le tout orchestré par une ambiance froide et chaotique du producteur El-P. Cette alchimie fait de The Cold Vein un « classique » du rapunderground.
Les deux rappeurs collaborent avec des artistes de l'écurie Def Jux (El-P, Aesop Rock...), mais aussi avec le collectif Atoms Family. Ils apparaissent également sur de nombreuses compilations (Def Jux presents, Wu Tang Meets the indie Culture...).
En 2004, Vordul Mega et Vast Aire sortent chacun un album solo, alors qu'il y avait des rumeurs indiquant la séparation prochaine de groupe.
En 2005, sort un album live, Return of the Ox: Live at CMJ, contenant des titres bonus.
Alors qu'un album était annoncé, avec El-P, RZA et Pete Rock à la production, El-P, patron de Def Jux a déclaré, via sa page Facebook le 28 mai 20111, que les deux rappeurs se sont séparés et ont pris artistiquement des chemins différents.
En 2013, un nouvel EP, Gotham, est mis en vente.
Le 3 mars 2015, un nouvel album, Blade of the Ronin, est publié2, quatorze ans après The Cold Vein.