Jerome Charyn est né à New-York, dans le quartier du Bronx, le 3 mai 1937 d’un père polonais, ouvrier à la Compagnie royale de fourrures et employé par la Défense civile à la surveillance de l’espace aérien, et d’une mère biélorusse, Faigele, belle comme Joan Crawford, croupière lors de parties de poker organisées par des mafieux du Bronx, tous deux émigrés à New-York et qui ne sont jamais parvenus à apprendre l’anglais. Garçon des rues, n’ayant appris que le yiddish et l’hébreu avant d’entrer à l’école publique, il a commencé à écrire l’anglais de droite à gauche.
En 1957, Jerome Charyn entame des études de lettres au Hunter College.
En 1962, Faigele the Idiotke, une nouvelle, est publiée par la revue américaine littéraire Commentary.
En 1963, sa seconde nouvelle Once upon a Droshky, (Il était une fois un Droshky) est publiée par un éditeur américain.
En 1965, Jérôme Charyn et son épouse quittent New York pour San Francisco. Il réussit à se faire embaucher comme scénariste sur le tournage d’un film réalisé par Otto Preminger. Professeur de littérature à l’université de Stanford, il quittera la ville trois ans plus tard et revient à New York.
En 1973, Son frère aîné, Harvey Charyn, policier à Brooklyn, lui fait découvrir les bas-fonds de la ville, les commissariats, et la morgue. L’auteur y trouvera tous les ingrédients de ses futurs polars. Ainsi naîtra le commissaire Isaac Sidel, que l’on retrouve dans son cycle policier.
En 1977, Marilyn la dingue est son premier roman traduit en France grâce notamment à Marcel Duhamel, éditeur de la Série noire. Egalement publié la même année Zyeux-bleus.
En 1986 est une année faste : Métropolis, un livre auquel l’auteur a consacré deux années d’enquête, de recherches et d’entretiens « jusqu’à l’épuisement », est enfin publié aux Etats-Unis et quelques mois plus tard en France. Cette même année, Jerome Charyn reçoit le Prix du meilleur album à Angoulême pour La femme du magicien, illustré par François Boucq.
En 1988, il est professeur à Princeton et l’Actor’s Studio. Jerome Charyn écrit Frog, son vingtième roman, un polar dont le héros principal est d’origine française.
En 1995, Jerome Charyn s’installe à Paris où il enseigne l’histoire et l’esthétique à l’Université américaine de Paris. « Paris est un endroit où je peux vivre et travailler. Alors que si je peux travailler à New York, je ne peux vraiment pas y vivre. »
En 1997, Jerome Charyn commence l'écriture (romancée) de sa biographie : La belle ténébreuse de Biélorussie (1997), suivra Le cygne noir (2000) et Bronx boy (2004).
En 2003, il écrit un livre de nouvelles sur une de ses passions le ping-pong (Edt Robert Laffont 2003)