Arkin nació en Los Ángeles, California. Se graduó de la Escuela Preparatoria University y egreso de la UCLA con una especialización en Artes Teatrales.

Inició con crédito de "introducción" en I Love You, Alice B. Toklas (1968) y breves apariciones en El valle de las muñecas (1967), Todos los hombres del presidente (1976) y Cannonball (1976).

Su participación en televisión incluyen Hawaii Five-O, Whitney and the Robot, y una aparición durante toda la temporada como el personaje Gabriel Kaye en la serie de televisión de CBS Storefront Lawyers, coprotagonizada por Robert Foxworth y Sheila Larken. También apareció en The Tonight Show Starring Johnny Carson y en los programas nocturnos de Joey Bishop y Steve Allen con la compañía de comedia improvisada de Hollywood Sunset Strip, The Session (que incluía a Richard Dreyfuss, Rob Reiner, Larry Bishop, Bobbie Shaw-Chance, Marj Dusay y Phil Mishkin); posteriormente actuó con la compañía de gira The Second City.

Arkin escribió la obra Human Cargo: Great Escapes, que su esposa, Ana E. Curry, produjo posteriormente con su compañía Old Dime Box Productions para la cadena de televisión Showtime como Escape: Human Cargo, la película la cual fue protagonizada por Treat Williams y se filmó en Israel. También produjo y dirigió One Man's Opinion, una versión políticamente incorrecta de películas recién estrenadas; la protagonizaron Arkin y el profesor Tyrone Shaw.

Arkin se casó tres veces primero con Deborah Lee Lubin (10 de agosto de 1978 - 14 de agosto de 1981), después con Lynn Coleman Gillham (17 de junio de 1965 - agosto de 1967) (divorciado) y finalmente con la actriz Ana E. Curry desde 1982 hasta su muerte.^[2]​ No tuvo hijos.

Como aclaración David Arkin no tenía parentesco con el actor Alan Arkin ni con su hijo, Adam Arkin (también actor). El padre de Alan era David I. Arkin.

Arkin también es reconocido por haber ayudado a su amigo Arnold Schwarzenegger (entonces Arnold Strong) a iniciar su carrera en el cine, recomendándolo mientras se estaba preparando el reparto de The Long Goodbye.^[3]​

Se suicidó el 14 de enero de 1991, en Los Ángeles, California, a los 49 años. Está enterrado en el cementerio de Woodlawn en Santa Mónica también en California.^[4]​