Beamforming designs for low-power transceiver structures in large-scale MIMO systems

Academic dissertation to be presented with the assent of the Doctoral Programme Committee of Information Technology and Electrical Engineering of the University of Oulu for public defence in the OP auditorium (L10), Linnanmaa, on 18 June 2025, at 12 noon

Abstract

This dissertation investigates efficient beamforming techniques for low-power transceiver architectures in large-scale multiple-input multiple-output (MIMO) systems, a key technology in millimeter-wave (mmWave) and terahertz (THz) wireless communications. While these systems enable extremely high data rates, they are often associated with significant power consumption. Digital beamforming (DBF) and hybrid beamforming (HBF) approaches, combined with low-resolution analog-to-digital converters (ADCs), offer promising solutions to these challenges.

The study begins by exploring phase shifter-based HBF transceiver architectures, which are vulnerable to beam squint effects that significantly degrade spectral efficiency (SE) in wideband systems. Analyses reveal that beam squint severity depends on the antenna array structure and fractional bandwidth. To mitigate the beam squint, efficient beamforming designs are proposed to maximize the SE. Switch-based HBF architectures are extensively studied, demonstrating greater robustness to beam squint, superior SE and energy efficiency (EE) than phase shifter-based designs.

Next, the focus shifts to low-resolution ADCs, where quantization distortion (QD) complicates performance optimization. An efficient joint transmit-receive beamforming and bit allocation scheme is proposed for DBF architectures, achieving significant SE and EE improvements over traditional beamforming schemes. Additionally, novel digital and hybrid precoding designs are introduced to maximize the SE given low-resolution receivers. The results highlight the potential of the partially connected HBF architecture in achieving comparable SE to the DBF and fully connected HBF schemes while requiring significantly less power consumption.

Extending to wideband systems, the joint effects of oversampling, signal-to-noise ratio (SNR) and ADC resolutions for SE are examined, showing that oversampling can effectively mitigate QD at high SNRs. With sufficiently large oversampling ratios and SNR, QD becomes negligible. Building on these insights, a hybrid receiver design with oversampling is proposed for low-resolution systems. The design demonstrates more resilience to the beam squint than in full-resolution systems. It showcases improved EE over the digital receiver when slightly more quantization bits (≥4) per radio-frequency chain are employed.Tiivistelmä

Tässä väitöskirjassa tutkitaan tehokkaita keilanmuodostustekniikoita matalatehoisille lähetin-vastaanotinarkkitehtuureille suurissa monitulo-monilähtöjärjestelmissä (multiple-input multiple-output, MIMO), joiden teknologia on keskeisessä asemassa millimetriaaltojen (mmWave) ja terahertsitaajuuksien hyödyntämisessä langattomassa tietoliikenteessä. Vaikka nämä järjestelmät mahdollistavat erittäin suuret tiedonsiirtonopeudet, niihin liittyy usein merkittävää virrankulutusta. Digitaaliset keilanmuodostus- (digital beamforming, DBF) ja hybridikeilanmuodostusratkaisut (hybrid beamforming, HBF) yhdistettynä matalaresoluutioisiin analogi-digitaalimuuntimiin (ADC) tarjoavat lupaavia ratkaisuja näihin haasteisiin.

Työ alkaa tarkastelemalla vaiheensiirtimiin perustuvien HBF-lähetin-vastaanottimien arkkitehtuureja, jotka ovat laajakaistajärjestelmissä alttiita spektrin käytön tehokkuutta (spectral efficiency, SE) merkittävästi heikentävälle keilan vinoutumalle (beam squint). Analyysit osoittavat, että keilan vinoutuman vakavuus riippuu antenniryhmän rakenteesta ja murtokaistanleveydestä. Tämän ilmiön lieventämiseksi ehdotetaan tehokkaita keilanmuodostusmenetelmiä SE:n maksimoimiseksi. Kytkimiin perustuvia HBF-arkkitehtuureja on tutkittu laajasti, ja ne osoittavat parempaa sietokykyä keilan vinoutumaa vastaan sekä parempaa SE:tä ja energiatehokkuutta (energy efficiency, EE) verrattuna vaiheensiirtimiin perustuviin ratkaisuihin.

Seuraavaksi keskitytään matalaresoluutioisiin analogi-digitaalimuuntimiin (ADC), joissa kvantisointisärö (quantization distortion, QD) vaikeuttaa suorituskyvyn optimointia. Työssä ehdotetaan DBF-arkkitehtuureille tehokasta lähetin-vastaanottimen keilanmuodostus- ja bittijaon yhteissuunnittelua, jolla saavutetaan merkittäviä SE- ja EE-parannuksia perinteisiin menetelmiin verrattuna. Lisäksi uusia digitaalisia ja hybridiesikoodausmenetelmiä kehitetään SE:n maksimoimiseksi matalaresoluutioisilla vastaanottimilla. Tulokset korostavat osittain kytketyn HBF-arkkitehtuurin potentiaalia saavuttaa DBF-ratkaisuihin ja täysin kytkettyihin HBF-ratkaisuihin verrattavissa oleva SE, mutta huomattavasti pienemmällä virrankulutuksella.

Tutkimus siirtyy lopuksi laajakaistajärjestelmiin, joissa tarkastellaan ylinäytteistyksen, signaali-kohinasuhteen (signal-to-noise ratio, SNR) ja ADC-resoluutioiden yhteisvaikutuksia SE:hen. Tulokset osoittavat, että ylinäytteistyksellä voidaan tehokkaasti vähentää QD:tä korkeilla SNR-arvoilla. Riittävän suurilla ylinäytteistyssuhteilla ja SNR-arvoilla QD muuttuu merkityksettömäksi. Näiden havaintojen pohjalta matalaresoluutioisille järjestelmille ehdotetaan hybridivastaanotinarkkitehtuuria ylinäytteistyksellä. Ehdotettu malli osoittaa parempaa sietokykyä keilan vinoutumaa vastaan kuin täyden resoluution järjestelmissä. Lisäksi malli tarjoaa parannetun EE:n digitaaliseen vastaanottimeen verrattuna, kun radiotaajuusketjun kvantisointitarkkuus ylittää nimenomaisen kynnyksen (≥4 bittiä).