Что хранится в куче, а что в стеке потока?

У каждого потока свой стек. На каждый вызов метода в нём появляется кадр: локальные переменные, параметры, промежуточные значения. В локальной переменной лежит примитив или ссылка, но не сам объект.

Объекты и массивы создаются в куче, она общая для всех потоков, её чистит сборщик мусора. В HotSpot статические поля тоже в куче, в объекте Class, а описания классов и методов — в Metaspace, который с Java 8 заменил PermGen.

void handle() {
    int attempts = 3;                  // в кадре стека
    Order order = new Order("A-1");    // ссылка в стеке, объект в куче
}

Переполнение стека — StackOverflowError, чаще всего от глубокой рекурсии. Нехватка кучи — OutOfMemoryError: Java heap space, нехватка Metaspace — OutOfMemoryError: Metaspace.