Стоит. Даже по скудному описанию можно понять, что и вы, и ваш первый тренер темпераментально боязливы, и прогресса при двойной осторожности не будет. Тогда как второй тренер явно менее невротичен и менее доброжелателен (формальная терминология), поэтому потенциально способен компенсировать особенности вашего темперамента.
P.S. Возможно, полезная ссылка по теме: Правила смены тренера.