I Distorted Pony vengono alla luce a Los Angeles nel 1992, quando il genere "industriale" incomincia a penetrare la fitta cortina della capitale heavymetal del mondo. A rivelarli sono il 45 giri Angel On A Haug/ Concrete Bruises (Piece Of Mind) e l'EP Work Makes Freedom (Bomp, 1991): Dora Jahr (basso) e David Uskovich (canto e chitarra), i membri fondatori, Robert Hammer (chitarra) e Theodore Jackson (percussioni) suonano e cantano come androidi che non abbiano mai preso una lezione di musica, ma producono armonie apocalittiche di tutto riguardo. Fee Schedule, Sinner's Prayer e le altre composizioni dell'EP suonano come la colonna sonora di un "Terminator".

L'album Punishment Room (Bomp, 1992), immerso in atmosfere così pesanti e grige da far rimpiangere il "dark punk" britannico, è una raccolta di rituali sadomaso all'insegna di un rumore di fondo subdolo e ben dosato. L'architettura del loro "noise-rock" è unica: al primo ascolto il rombo della chitarra e del basso costituiscono una solida parete di rumore, ma invece quel basso minaccioso in primo piano, che spesso porta la melodia invece di battere solamente il ritmo, e quei diluvi di scordature psichedeliche, accoppiati a una perenne, lancinante distorsione di natura elettronica, finiscono per avere effetti più truci della media. Ne risente anche la ritmica, che è sempre dirompente, grazie a quel martello pneumatico vivente che è London May alla batteria (il nuovo acquisto), doppiato spesso da una rhythm box, ma vibra di stacchetti minimalisti piuttosto che della veemenza punk, più vicina ai Sonic Youth che ai Black Flag. Ciò non toglie che ogni brano sfoggi una melodia (guidata dagli strumenti, non certo dalla voce), per quanto deforme e abominevole, tanto da lambire talvolta la memoria dei Joy Division. I vocalizzi striduli, distorti, urlati coronano questo delirio continuato e aggravato.
La forza drammatica di questa musica ha pertanto pochi rivali. Dai tribalismi di Powerless agli uragani di distorsioni di Plague Bed, dall'incalzante e minacciosa Castration Anxiety al crescendo eroico di Krank questo disco è un affresco delle pulsioni più inquietanti del "cyberhomo".
I Distorted Pony raggiungono apici tellurici di frenesia incontrollata alla Big Black nella filastrocca demoniaca di Hod, abissi di tensione spasmodica nelle cadenze frenetiche di Death In The Turnstile. Piombano con il funk di Gut Bug in stordenti vortici di distorsioni maniacali e di urla agonizzanti, accelerando in un ipnotico raga. Intonano il grottesco voodoobilly di Splinter, con il ruvido ronzio del basso e contrappunti dissonanti della chitarra a pilotare la danza.
Dappertutto dilagano panico e angoscia: “Is it cold or am I hungry/ Are we fucking or are we praying/ Is it boredom or is it fear/ Does it hurt or am I alive?/ I'm not cold and I'm not lonely/ We're not fucking and we're not praying/ It's not boredom and it's not fear/ I am dead and I am lying here.”

Se sul secondo Instant Winner (Trance, 1994) il quintetto ha perso qualcosa della furia dirompente dell'esordio, la tecnica più scaltra dei musicisti consente di dare ad ogni canzone un minimo di struttura. In realtà buona parte del disco suona come la naturale estensione del primo. L'attacco infernale di Dept Of Existence fa pensare a come suonerebbero i Sonic Youth se in formazione avessero due trivelle invece che due chitarristi. Il riff è peraltro di quelli epici, anche se l'andamento è da trionfo degli istinti più bestiali. Mostruoso, tellurico, il riff di Smitten, perfettamente in sintonia con l'incedere da armate di panzer. Una chitarra vagamente rock and roll e una distorsione ultrasonica duettano nell'armonia infuocata di Lamb Stink.
Laddove il gruppo tira il fiato, viene alla luce un lato "comico": parvenze di danza grottesca alla Pere Ubu (soprattutto nelle linee del basso) affiorano da Big Sprawling Corrupt; Go Kart, dopo un inizio di basso bruciante e chitarra scalpata, intona una sorta di girotondo demenziale; e in A Fine View From The Temple, dopo una lunga e snervante distorsione prende quota un poderoso voodoobilly.
L'impeto più controllato consente anche di gustare le loro influenze: un jamming cacofonico e cadenzato alla Jimi Hendrix costituisce l'ossatura di Dollar Pizza; Sparkle, lento e grunge, nasce all'incrocio fra Hendrix e Melvins; le sonorità di Fifty Cents Pizza assomigliano a quelle di Don Caballero o Slint, ma il brano è un crescendo geometrico; Cripple (uno dei più trascinanti) è un tornado alla Girls Vs Boys, con quel tipico fraseggio serrato di chitarra e basso.
Al momento della pubblicazione i Distorted Pony si erano già sciolti, con due soli album all'attivo.

Il chitarrista David Uskovich, dopo una breve parentesi negli Sweet Pea, formò gli SWITCHhITTER con Jason Ward e Ron Miller.
La band debuttò con le tracce da compilation Sperm in the Face (1997) e Oklahoma (1998) e il singolo Helicopter (Bent Over Cowboy, 1999) prima di pubblicare l'album Academy (Framed, 1999).
Il loro sound è un hardcore rumoroso, distorto e mozzafiato, sullo stile di Bib Black e Jesus Lizard (Tap Dancin' for P, Shakytriggerfinger, Queen For A Day).

I Distorted Pony si sono riuniti nel 2010 ma sono possati altri 14 anni prima che pubblicassero un nuovo brano, Crisis (2024), il loro primo inedito in oltre trent'anni.