Nacido en Petaj Tikva, en el seno de una familia judía, Ben Shimon comenzó su carrera profesional en el Maccabi Petah-Tikvah en 1987, donde jugó hasta la temporada 1994-95.^[1]​ Posteriormente, el entrenador del Hapoel Haifa, Avram Grant, se interesó en él para reforzar su defensa y el club lo terminó comprando por $450.000.^[2]​

Durante su etapa en Haifa, se convirtió en el capitán del club y fue partícipe del título de la Liga Nacional de Israel en la temporada 1998-99 que obtuvo bajo la dirección de Eli Guttman.^[2]​En la temporada 2001-02, se marchó al Hapoel Petah-Tikvah y un año más tarde firmó con el Bnei Yehuda donde se retiró del fútbol profesional.^[3]​

Después de retirarse como jugador, Ben Shimon comenzó a entrenar al equipo juvenil del Maccabi Tel Aviv y luego dirigió al primer equipo del Hapoel Haifa en 2006. Durante la temporada 2006-07, entrenó al Ironi Kiryat Shmona y lo ascendió de la Liga Leumit a la Liga Premier por primera vez en su historia.^[4]​ En la campaña siguiente, llevó al equipo al tercer puesto de la liga, lo que le dio un boleto para la Copa de la UEFA.

En abril de 2008, Maccabi Tel Aviv lo anunció como su entrenador para la temporada 2008-09.^[5]​ Antes del inicio de la temporada, había grandes esperanzas depositadas en el equipo a partir de la cantidad de dinero que invirtió el propietario del club, Alex Shnaider. Sin embargo, el equipo no mostró un buen fútbol y después de sólo ocho jornadas de liga, de las cuales el equipo sólo logró dos victorias, fue despedido de su cargo en el mes de noviembre.^[6]​

El 12 de abril de 2009, inició su segunda etapa al frente del Ironi Kiryat Shmona.^[7]​ Luego de devolverlos a la máxima categoría, obtuvo dos Copa Toto y una Liga Premier en la temporada 2011-12. Sin embargo, al final de la campaña, dejó su cargo por desacuerdos con el dueño del club.^[8]​

En julio de 2012, asumió al frente de su primer equipo fuera del continente asiático, AEK Larnaca.^[9]​ Después de alcanzar el cuarto puesto en la Primera División, se marchó al Hapoel Tel Aviv en mayo de 2013 donde firmó un contrato por dos temporadas.^[10]​ Sin embargo, fue relevado de sus funciones al final de la campaña.^[11]​

El 11 de junio de 2014, fue oficializado como técnico del Maccabi Petah-Tikvah.^[12]​ En febrero de 2016, presentó su renuncia al cargo tras una serie de malos resultados.^[13]​

En junio de 2016, Ben Shimon fue contratado por el Beitar Jerusalén.^[14]​ El 5 de febrero de 2017, la directiva del club rescindió su contrato por "unanimidad" luego de recibir críticas de los aficionados por los resultados obtenidos.^[15]​ Nueve días más tarde, fue anunciado como entrenador del FC Ashdod hasta el final de la temporada.^[16]​

El 5 de julio de 2017, fue nombrado al frente de la selección de Chipre.^[17]​ Después de finalizar en el cuarto puesto del Grupo I en la clasificación para la Eurocopa 2020, su contrato no fue renovado por la Asociación de Fútbol chipriota en noviembre de 2019.^[18]​

En enero de 2020, inició su segunda ciclo en el FC Ashdod.^[19]​ Un año más tarde, producto de los buenos resultados obtenidos, extendió su contrato por tres temporadas y media.^[20]​ No obstante, en mayo de 2023, anunció su salida del club israelí.^[21]​

El 15 de noviembre de 2023, fue contratado nuevamente por el AEK Larnaca.^[22]​ Tras ganar 18 de los 27 encuentros disputados, fue premiado como el mejor entrenador de la temporada.^[23]​ El 14 de mayo de 2024, el club anunció su salida por mutuo acuerdo.^[24]​

El 23 de mayo de 2024, fue anunciado como entrenador de la selección de Israel.^[25]​