Дайте идею

Нужна идея.
У меня есть куча неких состояний системы, которые я могу обрабатывать сразу многими потоками и получить другую кучу состояний, которые нужно опять обработать и получить новую кучу состояний и так почти до бесконечности. Проблема в том, что один поток может не сгенерировать ни одного состояния, а другой найти их очень много, если выделять каждому потоку в глобальной памяти на всякий случай помаксимому места - я получу очень разряженную структуру (многие места останутся пустыми) и быстро упрусь в нехватку памяти. Как создать "упакованную" структуру в терминах CUDA мне совсем не ясно, идею не подкинете?

Forums: 

У меня есть куча неких

У меня есть куча неких состояний системы, которые я могу обрабатывать сразу многими потоками и получить другую кучу состояний, которые нужно опять обработать и получить новую кучу состояний и так почти до бесконечности. Проблема в том, что один поток может не сгенерировать ни одного состояния, а другой найти их очень много,

Это что-то типа отождествления отметок целей в пассивной радиолокации?