Mobiilisovellusten testaus: Käytännön vinkkejä ja kokemuksia

Mobiilitestaus, tutkiva testaus, mobiilisovelluksen tietoturvatestaus

Jimi Hendrix -vainaa keksi aikanaan lähestyä instrumenttiaan sen eri kulmista, milloin niskan takaa tai polven alta soittaen, ja joskus lähti kipakka soolo hampaillakin. Tuikkasipa maestro Stratocasterinsa kerran palamaankin keikallaan 1967 Montereyssa. Ja äimistynyt kansa hurrasi.

Aivan kuten Henkalle Fender Stratocaster, tarjoaa mobiililaite ohjelmistotestaajalle herkulliset lähtökohdat lähestyä mobiilisovellusta mitä mielikuvituksellisimmista testauksen näkökulmista.
Noh, toistaiseksi ei ole vielä tullut sytytettyä mobiililaitetta tuleen, mutta teen sen kyllä, mikäli se tuottaa työssä menestymiselle lisäarvoa!

Vietin liki yhden työpäivän miettien, mitä keskeisiä mobiilisovellusten testaukseen liittyviä menetelmiä ja näkökulmia on tullut vuosien saatossa sovellettua.

Kertaan tässä artikkelissa myös aiemmasta artikkelistani Mobiilipankkisovelluksen tutkivasta testauksesta tutuiksi tulleita asioita, mutta tietyt seikat vain kuuluvat tähän aiheeseen ja kertaus on opintojen äiti!

Mobiililaitteiden valtava laitekirjo

Noh, Android itsessään on sellainen suo, jonka lakkoja (tai hilloja) ovat erilaiset laitteet, näytöt, resoluutiot ja käyttöjärjestelmäversiot. Tämä tarkoittaa sitä, ettei yhdelläkään testaajalla ole sellaista ämpäriä, johon jokainen marja saataisiin suolta poimittua. Vähemmälläkin saadaan silti kiisseliä pöytään. Jos testauksen vaatimuksissa kuitenkin koetaan välttämättömäksi käydä läpi kymmeniä tai jopa satoja erilaisia testilaite- ja käyttöjärjestelmäkomboja, on syytä tarkastella siihen vihkiytyneitä palveluita, kuten erilaiset mobiililaitepilvet tai Applause.

Tyypillisessä mobiilitestausprojektissa työpöydälläni makaa yleensä 3–5 erilaista Android-laitetta eri Android-versioineen, joilla suoritan ytimekkäämmän testauksen. Lisäksi pyrin viemään tiimille selkeää viestiä siitä, että buildien testaukseen voisi osallistua kaikki kynnelle kykenevät, edes yleisellä tasolla ja vaikka sitten hyväksymistestausvaiheessa. iOS-maailmassa pärjätään yleensä vähemmällä, koska Applella on tiukemmin hallittu kokonaisuus laite- ja järjestelmäkirjossaan. Applen osalta ongelmat tulevat eri näyttökokojen välillä ja joissain tapauksissa iOS-versioiden välillä. Yleensä olen testannut 2-3 laitteella, mutta toki iOS-testausta suoritetaan projektin sisällä myös muiden toimesta.

Mobiilisovellusprojekteissa onkin hyvä tapa julkaista sovellus ensin beta-versiona rajoitetulle käyttäjäryhmälle, jolloin beta-käyttäjiltä saadaan kaikenlaista palautetta havainnoista, mahdolliset laiteyhteensopivuudet mukaan lukien. Mutta valitettava tosiasia on se, että täysin aukotonta yhteensopivuustestausta on liki mahdotonta toteuttaa, etenkään Android-sovelluksilla. Loppukäyttäjä on tässä yhtälössä laadunvarmistuksen viimeinen toimija.

Järjestelmäasetusten vaikutukset mobiilisovellukseen

  • Käyttöjärjestelmän ominaisuudet. Kun sovellus hyödyntää käyttöjärjestelmän tarjoamia ominaisuuksia (capabilities), kuten vaikkapa kameraa, sijaintia tai yhteystietoja, sovellus tiedustelee käyttäjältä niiden käyttöoikeutta. On aina tarpeen kokeilla, mitä käyttöoikeuksien evääminen aiheuttaa sovelluksen toiminnalle ja tuottavatko ne käyttäjälle selkeät virhe- ja ohjeilmoitukset.
  • Kielivalinnat: Vaikka sovellus ei olisikaan lokalisoitu eri kielille, on paikallaan minimissään tarkistaa sen toimivuus vaihtamalla järjestelmäkieltä vaikkapa edes englanniksi ja ruotsiksi. Itse kokeilen myös eri merkistöjä käyttävillä kielillä, kuten kiinaksi, japaniksi ja hepreaksi. Erityisesti RTL (Right To Left) -tyyppiset kielet, kuten persia, aiheuttavat joskus jänniä ilmiöitä käyttöliittymässä!
  • Fonttikoko: Suunnittelijoiden painajainen on aina järjestelmän fonttikoon suurentaminen, joka usein aiheuttaa kummia käyttöliittymässä. Tämä kannattaa ainakin kertaalleen tarkistaa sekä käyttöliittymän että erityisesti heikkonäköisten loppukäyttäjien parasta ajatellen.
  • Järjestelmän keskeytykset: Joskus järjestelmän puolelta tapahtuva keskeytys, kuten saapuva puhelu, toast-viesti tai muu äkillisesti sovelluksen toimintaa jollain tavalla häiritsevä tai keskeyttävä operaatio saattaa aiheuttaa sovellukselle hätätilanteen.
  • Bluetooth ja oheisjärjestelmät: Mikäli sovellus hyödyntää järjestelmän mikrofonia saattavat Bluetooth-kuulokkeet tai autojen järjestelmät (esim. CarPlay) tuottaa yllättäviä havaintoja. On siis hyvä testata myös niiden parissa! Myös älykelloon tulevat notifikaatiot on hyvä tsekata.

Verkko-ongelmien testaus

Vaikka tänä päivänä mobiililaitteet ovat pääasiassa huippunopeiden verkkoyhteyksien äärellä, kohdataan edelleen tilanteita, joissa verkon tolpat vähenevät askel askeleelta. Sellaisissa tilanteissa vähimmäisvaatimuksena on sisäänrakennettu mekanismi, jonka avulla sovellus ilmoittaa käyttäjälle verkko-ongelmasta. Lisäksi erilaiset ‘handoverit’, kuten verkon vaihtuminen WiFistä mobiiliverkkoon ja toisin päin, kannattaa aina tarkistaa.

Esimerkki, kuinka erään kerran halusin etäolosuhteissa testata asiakkaan sovellusta heikentyvän verkkoyhteyden olosuhteissa

Esitoimet

  • Kaksi Android -älypuhelinta, joista vähintään toisessa mobiilidatayhteys
  • WiFi-tukiasema
  • Mikroaaltouuni

Stepit

  1. Aseta mobiilidataa hyödyntävä älypuhelin wifi-hotspotiksi
  2. Kytke testattavan sovelluksen älypuhelimesta mobiilidata pois, ja yhdistä se em. wifi -hotspotiin
  3. Laita hotspot-puhelin mikroaaltouuniin. Huom! jos mikroaaltouuni käynnistyy, testi on hyvin pitkälle hylätty…
  4. Ryhdy kävelemään testattavan älypuhelimen kanssa etäämmälle mikroaaltouunista ja tarkkaile verkkoyhteyden signaalia
  5. Suorita testaus erilaisilla verkkosignaalin vahvuuksilla.

Löydös

  • Sovellus kaatui usein juuri sillä hetkellä, kun verkkoyhteys katkesi tai oli katkeamassa.
  • Käyttäjää ei informoitu notifikaatiolla heikosta verkkosignaalista

Mikroaaltouunin edustalla verkkoyhteys oli alkuun kohtalainen, mutta kävelemällä etäämmälle verkkosignaali heikkeni hiljalleen, katketen lopulta kokonaan. Kriittinen vyöhyke oli pääsääntöisesti katkeamisen hetkellä.

Käyttökokemus ja saavutettavuus ovat laadun osa-alueita

Yleensä testaaja ajattelee sovellusta eri näkökulmasta kuin sen suunnittelija tai kehittäjä. On tavallista, että testaajana annan palautetta ja vaihtoehtoisia ehdotuksia sovelluksen toimintalogiikkaan liittyvissä asioissa – vaikkei aiheeseen liittyisikään varsinaista ohjelmistovirhettä. Joskus palaute poikii muutoksen, joskus ei. Kommunikointi on silti aina paras laadun parantamisen työväline!

On tyypillistä, että suunnittelupöydälle palataan vielä useita kertoja sovelluksen testauksen aikana, koska erilaisia käyttökokemukseen ja saavutettavuuteen liittyviä seikkoja hienosäädetään. Tyypillisimpiä unohduksia ovat virhe- tai opasteilmoitusten puuttuminen tai niiden vaikeaselkoisuus, joiden kautta käyttäjän tulee saada selkeää lisätietoa ongelmatilanteissa. Lisäksi erilaiset visuaaliset tehosteet ja korostukset käyttäjän toimia odottavissa elementeissä ovat tärkeitä asioita käytön selkeyden nimissä.

Esimerkki saavutettavuusbugista

Kärsin värisokeudesta, ja olen nykyään jo useammallakin asiakkaalla työskenneltyäni raportoinut bugin, jossa heikosta värinäöstä kärsivä käyttäjä joutuu ongelmiin käyttöliittymätoteutuksen kanssa. Useimmiten ongelmat liittyvät tekstin ja hankalan taustavärin yhdistelmään, mutta myös erilaiset väreillä toteutetut graafiset symbolit voivat olla ongelma. Tällaiset havainnot luetaan myös käyttöliittymän saavutettavuuden piiriin.

Esimerkki

saavutettavuustestaus, mobiilitestaus

Helppoa mobiilisovelluksen tietoturvatestausta

Sortumatta turhan tekniseen nysväykseen, mobiilisovelluksen tietoturvatestaukseen on hyödynnettävissä varsin simppeleitä tutkivan testauksen niksejä, kuten mm. SQL-injektio ja erilaisten syötekenttien riivaaminen erikoismerkeillä ja pitkillä merkkijonoilla. Mikäli syötekentän käyttötarkoitus on ns. tavanomainen lyhyiden merkkijonojen käsittelyyn, on sen merkkikapasiteettia syytä rajoittaa.

Perustasoisella SQL-injektiolla taas pyritään selvittämään mahdolliset törkeän huolimattomuuden aiheuttamat tietoturva-aukot, joita kaikeksi onneksi tänä päivänä harvakseltaan löytyy. Esimerkkejä SQL injektioista

Tietoturvatestaus jollaista jokaisen mobiilitestaajan tulisi suorittaa

Tilanteissa, joissa havaitsen vaikkapa ‘käyttäjätunnus’-syötekentän merkkimäärän olevan rajoittamaton, ryhdyn syöttämään siihen merkkejä niin pitkään “Select All – Copy – Paste” -toimintaketjulla, kunnes jotain tapahtuu.

Parhaimmillaan olen saanut syötettyä kymmenien tuhansien merkkien pituisia merkkijonoja, kunnes sovellus on jumiutunut tai kaatunut. Lähes poikkeuksetta annan syötteen lähteä myös backendiin, jos se vain vielä on mahdollista. Tämä ei ole millään muotoa loppukäytössä tavanomainen tilanne, mutta avaa mahdollisuuksia kiusankappaleiden likaiselle mielikuvitukselle.

Erikoismerkkirajoitettujen kenttien testauksessa luonnollisesti käytetään kaikki mielikuvituksen ja teknologian mahdollistamat konstit saada kenttään ujutettua kiellettyjä merkkejä.

Mobiilitestauksen työvälineitä

  • Mielikuvitus: Mielikuvitus on mobiilitestaajan kaikkein tärkein työväline. Jos testaus tukeutuu ainoastaan kirjoitettuihin testitapauksiin, ollaan lentämässä pää edellä suonsilmäkkeeseen. Tutkivan testauksen toteuttaminen on äärimmäisen tärkeä työvaihe osana testausta, ja yhdessä mielikuvituksen kanssa se mahdollistaa myös eriskummallisempien käyttötapausten tavoittamisen.
  • MultiSim-liittymä: Sovelluksissa, joissa esimerkiksi puhelut tai puhelinnumeroon perustuva rekisteröinti ovat olennaisia, on näppärää hyödyntää MultiSim-liittymää. Silloin sama liittymänumero toimii kahdessa eri laitteessa, joka mahdollistaa vaikkapa vertailevan testauksen eri asetuksilla.
  • Android SDK: Android-sovellusten testauksessa kannattaa hyödyntää Android SDKmukana tulevia platform-tools-työkaluja, jotka mahdollistavat ADB(Android Debug Bridge) ominaisuuksien hyödyntämisen. ADB mahdollistaa esimerkiksi helpon reaaliaikaisen logituksen, jolloin vaikkapa kaatumistilanteet saadaan logille ja edelleen bugiraporttiin liitettäviksi. Lisäksi ADBä hyödyntävät useat kuvankaappaus-sovellukset. Lisätietoa Androidin kehittäjätyökaluista.
  • Vysor-kuvankaappaussovellus: Hyödynnän Vysoria Androidin ruudunkaappaustarkoituksiin. Se tukee myös iOS, mutta Applen omat ratkaisut ovat sen verran näppäriä, että saan kuvan- ja videonkaappaukset simppelisti suoraan puhelimesta Maciin. Androidin osalta Vysor vaatii ADBja kehittäjäasetukset sovelluksen päästä, mutta on äärimmäisen näppärä sovellus joko kuvankaappausten tai videotallennuksen ottamiseen ja edelleen hyödyntämiseen vaikkapa bugiraportin liitteenä. Lisätietoa Vysorista.
  • Tekoäly: Jo pelkästään ChatGPTä on moneksi, ja hyödynnän sitä esimerkiksi testidatan generoimisessa “Generate 1000char string” tai vaikkapa merkkijonon, joka sisältää kaikki mobiililaitteen näppäimistöltä saatavat erikoismerkit. Lisäksi hyödynnän ChatGPTä erilaisten testausvinkkien ja vaikkapa SQL-injektio-lausekkeiden generoimiseen. Käyttökohteita ja AI-työkaluja on kuitenkin jo niin runsas määrä, että ne oikeastaan vaatisivat jo oman blogikirjoituksensa!
  • Python: En ole koodari, mutta voin vilkaista. Varsin maltillisella ohjelmointiosaamisellakin (ja nykyään toki ChatGPT:llä) saa aikaiseksi näppäriä apuohjelmia ja scriptejä, joilla voi nopeuttaa ja helpottaa päivittäisiä rutiineja.
    Esimerkiksi eräälläkin asiakkaalla ei ollut jakelusoftaa käytössään, joten värkkäsin Pythonilla yksinkertaisen ADB:tä hyödyntävän asennusskriptin, jolla pystyin asentamaan kulloinkin toimitetun uusimman buildin kaikkiin USB-hubiini kytkettyihin testipuhelimiini kerralla. Skriptillä asennukseen meni ehkä 20s, kun manuaalisesti toimien siihen olisi kulunut vähintään viisi minuuttia.

Janne Lepistö Qubilea

Janne Lepistö
Testausasiantuntija ja Qubilean toimitusjohtaja
050 487 3265
janne.lepisto@qubilea.fi
https://www.linkedin.com/in/jakulepi/

Lue lisää testauspalveluistamme