Возможно ли работать в новой фирме будучи в отпуске в старой (просто плачу по 6му классу налог, для меня это ОК)?

По закону нет (отпуск даётся, чтобы отдыхать, ну и набиратся сил). А по факту, да. Но хорошо ли такое делать исподтишка это другое дело.

Я не спец, но не вижу связи между 6 классом и Вашим уходом в отпуск. Другое дело, что Вы хотите, чтобы Вам выплатили Ваш отпуск и накопленное время. Тогда финанцамт обрадуется. Он редко встречает таких дураков.

Если делать Auflösungs des Arbeitsvertrags zum 31 августа 2017 - какие проблемы у меня могут быть?

А какие проблемы Вы увидели? Вы же будете потом работать, а не сидеть на шее государства. Auflösungsvertrag, как правило делают, чтобы уйти без Kündigungsfristen. Если Ваш работодатель подпишет. А если не подпишет, нормально уволится. Отгулять всё, что можно отгулять, а оставшийся отпуск взять в новую фирму. Но если у Вас такие большие фристен+накопленное время+отпуск, то... нужно было о таком раньше думать, когда Вы всё это копили. Тогда отгуливать что можно, а остальное выплачивать. И если речь пойдёт об Aufhebungsvertrage, то там всё должно стоять.