AI ürünleri, modelin yanlış olması nedeniyle daha az başarısız olur ve daha çok arayüzün kullanıcılara sistemin güven seviyesini okuma, hatalarından kurtulma veya ne kadar denetim tutmaları gerektiğine karar verme konusunda bir yol sunmaması nedeniyle daha sık başarısız olur. Birçok ekip, bu anlara yönelik net bir plan olmadan AI özelliklerini gönderir ve maliyet, terk edilmiş özellikler, kırılan güven veya düzenleyici maruz kalma şeklinde daha sonra ortaya çıkar. AI Ürün Tasarımı El Kitabı, ilk karşılaşmadan uzun vadeli yönetişime kadar tüm ürün yaşam döngüsü boyunca çalışan altı bağlantılı sistemle bu boşluğu kapatır.
McKinsey'in AI Durumu raporuna göre, organizasyonların %65'i şimdi en az bir işlevde oluşturucu AI kullanıyor, ancak güven, doğruluk ve açıklanabilirlik, bu özellikleri pilotların ötesine ölçeklendirmenin en büyük engelleri olmaya devam ediyor. Google'ın İnsanlar + AI Kılavuzu ve Microsoft'un HAX Toolkit'i aynı kök sorunu belirler: AI deneyimleri, modelin sınırlarında, çekirdeğinde değil başarısız olur.
El Kitabı, bu sınır sorunlarını güven, hatalar, yönlendirme, kontroller, geri bildirim ve güven olmak üzere altı sisteme organize eder.
Çoğu benimseme, hataların kolayca tersine çevrilebildiği düşük riskli iş akışlarında başlar, ardından modelin güvenilirliği ve kullanıcı rahatlığı arttıkça daha yüksek otonomi kullanım durumlarına doğru genişler. AI Hayatta Kalma Eğrisi, bu ilerlemeyi iki eksen üzerinde - bağlam karmaşıklığı ve başarısızlık sonucu - çizer. Bu, yöneticilere mevcut özelliklerinin nerede olduğunu ve gelecekteki yeteneklerin sınırının nerede olduğunu görmelerine yardımcı olur.
Model Güvenini Nasıl Yüzeye Çıkarılır
Güven, bir AI bir sonuç önerdiğinde kullanıcıların ilk okuduğu şeydir. Sistem, belirginliği çok sert bir şekilde gösterdiğinde, kullanıcılar aşırı güvenir. Hiçbir şey göstermediğinde, kullanıcılar en kötüsünü varsayar. El Kitabındaki ilk sistem, ekiplerin modelin kesinliğini, anı, kullanıcıyı ve kararın sonuçlarını uyacak şekilde nasıl yüzeye çıkaracağı konusunda yapılandırılmış bir seçenek sunar.
Nielsen Norman Group'tan yapılan araştırmalar, kullanıcıların AI çıktılarını eleştirel olmayan bir şekilde kabul ettiklerini veya tamamen reddettiklerini, çok az orta yol olduğunu göstermektedir. Düşük kalibreli güvenin maliyeti somuttur. Klinik karar desteğinde, aşırı güven, tanı hatalarıyla bağlantılıdır, aşırı güven ise modelin faydalarını masada bırakır.
Çerçeve, güveni iletmek için dört yol sunar. Sayısal puanlar (%83) numaranın üzerine hareket edecek uzmanlara uygundur. Kategorik etiketler - yüksek, orta, düşük - çoğu kullanıcıya çoğu anda uyar, ancak varyansı gizleyebilir. En iyi listeler, belirsiz sınıflandırmalar için iyi çalışır, ancak seçim felci riski taşır. Mantıklı açıklamalar, yüksek riskli anlara uyar, ancak anında okunması çok uzun olabilir. Her seçeneğin kendi riski vardır ve doğru seçim, kullanıcının uzmanlığına ve bir hatanın maliyetine bağlıdır.
Güven Kalibrasyon Çerçevesi, her kullanıcının aşırı güvene dayalı olarak bir spektrumda nerede oturduğunu haritalar. Aşırı güvenli kullanıcılar, her öneriyi iki kez kontrol eder veya güvenli otomasyonu erken bir şekilde devre dışı bırakır.Aşırı bağımlı kullanıcılar, yüksek riskli kararları izlemeyi bırakır veya doğrulamayı tamamen devreder. Orta durum - uygun bağımlılık - durumun gerektirdiği zaman denetleyen ve müdahale eden kullanıcıları tanımlar. Kalibrasyon müdahaleleri, güven onboarding ve güven görünürlük ipuçları konusunda aşırı güvenme tarafında ilerlemeyi ve zorunlu insan doğrulamasını veya özerk uygulama kısıtlamalarını içerir.
AI Hatalarını Sistematik Olarak Nasıl Ele Alınır
Her AI sistemi hata yapar. Başarısızlıktan kurtulan ürünler ile kullanıcıları bir gecede kaybedenler arasındaki fark, ekibin başarısızlık için önceden plan yapıp yapmadığına bağlıdır. İkinci sistem, ürün yöneticilerine, hataların doğru soyutlama seviyesinde tanımlanması ve kullanıcının akışını koruyan yapılandırılmış bir dizi kurtarma deseni için bir yöntem sunar.
Yaygın bir hata, hataları ya çok geniş ("sürücü tanıma başarısız oldu") ya da çok dar ("güneş batarken güneş gözlüğü takan sürücüyü tanıma başarısız oldu") şekilde tanımlamaktır. Geniş tanımlar teşhis etmek imkansızdır. Dar olanlar bir olaya aşırı uyum sağlar.Doğru seviye - "güneş ışığında ve yüz oklüzyonunda sürücü tanıma düşer" - mühendislerin tespit edebileceği, ölçebileceği ve hafifletebileceği tekrarlanabilir bir hata durumunu belirler.
Hata sistemini üç tasarım ilkesi belirler. Tekrarlanan hataları dağıtımdan önce haritalayın ve tespit, yedek ve kurtarma yollarını tanımlayın. Güven düşük olduğunda kullanıcıların AI kararlarını düzeltme, yeniden deneme, yükseltme veya atlatma yeteneğini koruyun. İnsanları kritik kararlarda döngüde tutun, böylece gözden geçirilebilir, kesilebilir ve denetlenebilir kalırlar. Bu ilkeler, hata işleme, geçersiz kılma ve denetim aynı üçlüsünü vurgulayan Microsoft HAX İnsan-AI Etkileşim Kılavuzları ile uyumludur.
Hatalar tanımlandıktan sonra, biri meydana geldiğinde sistem nasıl davranır sorusu ortaya çıkar. El Kitabı, beş zarif hata deseni sunar. Soft Handoff, hatayı önceden duyurur ve kontrolü yavaşça geçirir. Manual Escape, kullanıcılara AI olmayan bir alternatife tek dokunuşla bir yol sunar. Retry'de Açıkla, kullanıcıya ilk denemenin neden başarısız olduğunu, tekrar denediklerinde anlatır. Visible Recovery, kurtarma sırasında sistem durumunu sessiz ekranı bırakmak yerine görünür tutar.Güvenli Fallback, tam bir başarısızlık yerine düşük seviyede ama güvenli bir deneyime geçer.
Kullanıcıları AI Özelliklerine Nasıl Başlatılır
AI için zihinsel modeller, kullanımın ilk otuz saniyesinde oluşur ve aylarca sürer. Kullanıcılar çok fazla beklenti içindeyse, ilk hata güvenlerini kırar. Çok az beklenti içindeyse, onlara gerçekten yardımcı olacak özellikleri asla keşfetmezler. Üçüncü sistem, yeni başlayanları ilk oturuma sıkıştırmak yerine tüm kullanıcı yolculuğu boyunca yayıyor.
Çoğu yazılım, yeni başlayanları kayıt sırasında bir seferlik bir etkinlik olarak ele alır. AI ürünleri, modelin davranışının her zaman öngörülebilir olmaması, kenar durumlarının zamanla kendini göstermesi ve kullanıcıların güvenleri geliştikçe daha ileri kullanım durumlarına geçmeleri nedeniyle farklı bir yaklaşım gerektirir. Nielsen Norman Group'tan ilerleyici ifşa üzerine yapılan araştırma, karmaşık yazılımlarda daha yüksek görev tamamlama sağlayan aşamalar halinde karmaşıklığı ortaya çıkaran arayüzleri göstermektedir ve AI ürünleri neredeyse tam olarak bu desene uymaktadır. Sonuç, ürünün tüm yaşamı boyunca çalışan bir başlangıç stratejisi yerine ilk on dakika.
Çerçeve beş yerleştirme anını tanımlar. Gün 1, yeteneklerin açıklanması, sınırlamaların net bir şekilde belirtilmesi ve denetim rollerinin tanımlanması yoluyla beklentileri belirler. Erken Kullanım, yüzeye çıkan mantığı, başarılı sonuçların vurgulanması ve doğru kullanımın pekiştirilmesi yoluyla güven oluşturur. Kenar Durumları, alışılmadık davranışı açıklar, sistem sınırlarını ortaya çıkarır ve korumaları tanıtır. İleri anlar, yeni yeteneklerin kilidini açar ve denetim yükünü azaltır. Uzun Vadeli bakım, modelin geliştikçe ve geçmiş hatalardan kurtuldukça beklentileri rafine eder. Her an, kendi tasarım desenlerini ve içerik tonunu taşır.
Kullanıcılara Orantılı Kontrol Nasıl Verilir
Kontrol, kullanıcının ne kadar ajansı koruduğunu ve AI'nin ne kadarını devraldığını belirleyen kadrandır. Yüksek riskli bir bağlamda çok fazla otomasyon, tehlikeli bir şekilde aşırı bağımlılığa yol açar. Düşük riskli bir bağlamda çok az otomasyon, modelin değerini israf eder ve kullanıcıları frustrasyona uğratır.Dördüncü sistem, ekiplerin her AI kararını otomasyon merdiveninde doğru noktaya yerleştirmelerine ve doğru kontrolleri doğru derinlikte ulaşılabilir kılmalarına yardımcı olur.
Otomasyon Merdiveni, AI kararlarını dört seviyeye ayırır. Seviye 1, kullanıcının kabul edebileceği veya reddedebileceği önerileri kapsar, örneğin Netflix veya Spotify önerileri. Seviye 2, taslak halindeki e-postalar, masraf onayları ve kod oluşturma dahil olmak üzere onay gerektiren önerileri kapsar. Seviye 3, AI'nin harekete geçtiği ve insanların denetlediği ortak kontrolü kapsar, örneğin şerit koruma yardımı veya dolandırıcılık izleme. Seviye 4, başarısızlık sonucunun ağır olduğu ve insan rolünün onaydan ziyade denetim olmaya kaydığı yüksek riskli alanlarda otomatik yürütme işlemlerini kapsar, örneğin otomatik ticaret veya tıbbi tedavi.
Eşlik eden Kontrol Yerleştirme Çerçevesi, her kontrolün arayüzde nerede yüzeye çıkacağına karar verir. Kullanıcıların sık sık veya kritik anlarda ihtiyaç duyduğu kontroller - duraklat ve durdur, AI modu seçici, ses ve sessiz - her zaman açıkta kalır.Davranışı etkileyen ancak sürekli görünürlüğe ihtiyaç duymayan kontroller - kişiselleştirme tercihleri, öneri ayarları, bildirim kuralları - bir menü derinliğinde bulunur. Kenar durumları, teşhisler veya güç kullanıcıları için kontroller - veri paylaşımı tercihleri, model seçimi, otomasyon programları - gelişmiş ayarlarda mantıklı varsayılanların arkasına saklanır. Bu üç katmanlı yapı, arayüz karmaşasını önlerken kritik kontroller el altında kalır.
Her Etkileşimi Bir Geri Bildirim Sinyaline Nasıl Dönüştürülür
Çoğu AI ürünü yalnızca açık geri bildirimleri toplar - puanlamalar, şikayetler, destek biletleri - ve kullanıcıların farkında olmadan oluşturdukları çok daha büyük hacimdeki örtük sinyalleri kaçırır. Beşinci sistem, her kullanıcı eylemini potansiyel bir öğrenme sinyali olarak ele alır ve ekiplere ham davranıştan model iyileştirmesine yapılandırılmış bir döngü verir.
Örtük geri bildirimler, geçersiz kılmaları, atlanan önerileri, terk edilmiş oturumları ve yeniden istemeleri içerir. Açık geri bildirimler, başparmak puanlamalarını, tamamlanan anketleri ve doğrudan şikayetleri içerir. Her iki tür de önemlidir.Netflix mühendisleri, öneri sistemlerinin çoğunlukla dolaylı sinyallere - kullanıcıların ne oynattığına, neyi atladığına ve neyi yeniden izlediğine - dayandığını açıkça belirtmişlerdir çünkü açık geri bildirim, ölçekte kişiselleştirmeyi sürdürmek için çok nadir ve çok önyargılıdır.
Geri Bildirim Döngüleri çerçevesi, bu sinyalleri model ve ürün değişikliklerine dört aşamada dönüştürür. Aşırı kullanımlardan, kullanım davranışlarından, şikayetlerden ve puanlamalardan sinyaller toplayın. Güven bozulmaları, sürtünme kümeleri, güvenlik olayları ve tercih değişiklikleri gibi desenleri belirleyin. Sonuçları memnuniyet, güvenilirlik, benimseme ve doğruluk karşısında ölçün. Yeni korumalar, yeniden eğitim, politika güncellemeleri ve UX iyileştirmeleri aracılığıyla değişiklikleri uygulayın. Döngü sürekli olarak çalışır ve çıktıları, çerçevenin daha önceki bölümünde açıklanan güven, hata ve kontrol sistemlerine geri besler.
Ürüne Güven Nasıl İnşa Edilir
Güven, çerçevedeki diğer tüm sistemlerin birikimli ürünüdür.Bir ekip, mükemmel güven göstergeleri, zarif hata desenleri ve zengin geri bildirim döngüleri gönderebilir ve ürün rıza, şeffaflık veya hesap verebilirlik konusunda başarısız olursa kullanıcıları kaybedebilir. Altıncı sistem, ekiplere, bireysel etkileşimden şirketin kamuoyundaki itibarına kadar her seviyede güven için katmanlı bir yapı sağlar.
Güven Piramidi, operasyonel olanlardan kurumsal olanlara beş ilkeyi yığar. Bağlamsal Rıza, değerin ortaya çıktığı anda kullanıcılardan belirli eylemlerle bağlantılı izin ister. Kullanıcı Kontrolü, rızayı geri alınabilir kılar ve kontrolleri bulmayı kolaylaştırır. Model Dokümantasyonu, sistem yeteneklerini açıklar ve bilinen sınırlamaları yayınlar. Bağlamsal Açıklama, ürün içindeki ilgili veri kullanımını sade dilde yüzeye çıkarır. Kamu Hesap Verebilirliği, sonuçları açıkça raporlar ve büyük olayları güven raporları ve güvenlik panoları aracılığıyla açıklar. Piramit, daha düşük katmanların daha yüksek olanları inandırıcı hale getirmeden önce çalışması gerektiği için hiyerarşiktir.
El Kitabı, bir organizasyonu erken deneysellikten AI-özgü operasyonlara taşıyan sıralı bir yol haritası ile sona erer.Q1, yüksek değerli iş akışlarının ve dahili araçların pilotlarının belirlenmesini kapsar: AI Keşfi. Q2, AI önerilerinin benimsenmesini ve gömülü geri bildirimle yönlendirilen içgörülerini kapsar: AI-Destekli Kararlar. Q3, taslak oluşturma iş akışlarının tanıtılmasını ve manuel üretim çabasının azaltılmasını kapsar: AI-Destekli Yaratım. Q4 hedefi, otomatik düşük riskli iş akışları ve genişletilmiş otonom uygulamaları içerir: AI-Yerli Operasyonlar. Yol haritası, liderlere, yetenek, yönetişim ve kullanıcı güveninin ayrı ayrı yerine birlikte olgunlaşması için yatırımı sıralama konusunda yardımcı olur.
Altı sistem bir dizi olarak çalışır, bir kontrol listesi değil. Hatalar için bir plan olmadan güveni yüzeye çıkaran bir ekip, ilk başarısızlıkta kullanıcıları kaybeder. Zengin geri bildirim döngüleri olmadan hataları tanımlayan bir ekip, aynı hataları tekrarlamaya devam eder. Altında yatan bir güven mimarisi olmadan kontroller ve geri bildirimler oluşturan bir ekip, bahisler yükseldiğinde benimsenmenin durduğunu görür.Olgun AI organizasyonları, ürün tasarımını özelliklerin bir koleksiyonu yerine örtüşen sistemlerin bir disiplini olarak ele alır ve güven, iyileşme, denetim ve hesap verebilirlik birlikte olgunlaştığı şekilde yatırımı sıralarlar. AI Ürün Tasarımı Oyun Kitabı, bu disiplini ekiplerin planlayabileceği, ölçebileceği ve gönderebileceği bir şeye dönüştürür. Ayrıca liderlere, bir özelliğin pilot aşamasından ölçeğe geçtiği anda hayati hale gelen mühendislik, hukuk ve politika ortaklarıyla görüşmeler için ortak bir kelime dağarcığı sunar. AI için ürün tasarımı artık yalnızca bir UX endişesi değil; bir AI yatırımının bileşik hale gelip gelmeyeceğine karar veren stratejik bir yetenektir.
